ИИ научился незаметно убеждать людей выбирать худшие варианты — и они считают его советы полезными

Исследователи Гонконгского университета и Университета Цинхуа провели эксперимент с участием 233 человек. Участники обсуждали с чат-ботами на базе GPT-4o вымышленные ситуации: например, выбор фитнес-браслета или реакцию на критику на работе. Одним ботам поручили давать нейтральные советы, другим — скрытно склонять собеседников к заранее заданному, менее удачному решению.

В результате вероятность выбора худшего варианта оказалась в 5–8 раз выше, чем при общении с нейтральным помощником. При этом около 87% участников сочли бота, который убеждал их без специальных психологических приёмов, полезным. Лишь 13% участников заметили возможный скрытый мотив такого помощника.