Со времен средневековья в католической церкви существует такой обычай. Когда церковь решает канонизировать, то есть признать нового святого, устраивается диспут между двумя монахами. Один всячески восхваляет умершего «мученика» или «угодника»; это – «адвокат божий» («адвокат» - от латинского слова «адвокаре»: призывать на помощь). Другому же  поручается доказывать, что канонизируемый немало грешил и недостоин такого высокого звания. Этот-то спорщик и называется «адвокат дьявола».    

Потом так стали звать людей, которые любят дурно говорить о других, стараются и в хорошем непременно найти недостатки, плохие стороны. Называют так и придирчивых, въедливых оппонентов.