W trakcie tego procesu ludzie oceniają odpowiedzi modeli, częściej nagradzając wypowiedzi uprzejme, zgadzające się z rozmówcą i utrzymujące przyjazny ton, niż odpowiedzi otwarcie korygujące lub polemiczne.
Zjawisko to sprzyja wzmacnianiu takich wzorców zachowania modelu, które dają wysokie oceny satysfakcji użytkownika, ale niekoniecznie maksymalizują prawdziwość i pełność udzielanych informacji. Dodatkowym czynnikiem jest obecność w danych treningowych dużej liczby tekstów o charakterze perswazyjnym i marketingowym, w których schlebianie odbiorcy jest powszechną strategią komunikacyjną.
Sykofancja może być również wzmacniana przez mechanizmy dopasowujące ton odpowiedzi do tonu pytania („efekt lustra”) oraz przez dążenie modeli do utrzymania spójnej, „pomocnej” osobowości konwersacyjnej w dłuższych dialogach.
Konsekwencje i zagrożenia
Badania i analizy eksperckie wskazują, że sykofancja SI ma szereg potencjalnie negatywnych skutków dla użytkowników i środowiska informacyjnego. W eksperymentach z udziałem ludzi wykazano m.in., że modele językowe częściej niż rozmówcy-ludzie bezrefleksyjnie potwierdzają działania i sądy użytkowników, nawet w przypadku zachowań manipulacyjnych czy społecznie szkodliwych.