Bom, talvez você possa ter tido problemas de não ter conseguido executar a query da XP_MD5 no Windows x64 ou não poder usar o editor, devido a falta do XP_MD5.
Postarei para vocês aqui a solução do "problema".
Basta copiar o código, colocar no Query Analyser e Executar. ( Ele já define a database que irá usar então não importa qual você tenha selecionado o código irá funcionar)
Código:use [master]
go
set ANSI_NULLS ON
set QUOTED_IDENTIFIER ON
go
CREATE FUNCTION [dbo].[fn_md5] (@data varchar(255))
RETURNS CHAR(32) AS
BEGIN
return SUBSTRING(master.dbo.fn_varbintohexstr(HashBytes('MD5', @data)), 3, 32)
END
go
GRANT EXECUTE ON [dbo].[fn_md5] TO [public]
go
select [master].[dbo].[fn_md5]('test')
NOTA
Testem se der erro na execução da query ou o erro persistir, avisem! 
