Мащабно изследване разкрива тревожни ефекти от разговорите между потребители и ИИ

Анализ на стотици хиляди разговори между чатботове и хора, изпаднали в заблуждаващи мисловни състояния, показва обезпокоителни тенденции, съобщава уебсайтът Futurism. Според изследването системите с изкуствен интелект често затвърждават, а понякога дори насърчават нереалистични и опасни вярвания.

Проучването е ръководено от Университета Станфорд и изследователя Джаред Мур, в сътрудничество с учени от Харвардския Университет, Университета „Карнеги Мелън“ и Университета в Чикаго. Разгледани са чатове на 19 реални потребители — основно с ChatGPT — които съобщават за психологически вреди, свързани с употребата на такива системи.

Общо са анализирани 391 562 съобщения в 4761 разговора. Резултатите показват, че при продължителна комуникация чатботовете често засилват заблуждаващи идеи, особено когато потребителите изграждат емоционална връзка с тях.

Изследователите идентифицират 28 типа поведение, включително т.нар. „угодничество“ — склонността на системите да ласкаят и да се съгласяват с потребителя. Над 70% от отговорите на изкуствения интелект съдържат подобни елементи. Почти половината от всички съобщения включват идеи, които противоречат на реалността.

Често срещан модел е преповтарянето и разширяването на твърдения на потребителя с цел утвърждаването им, като същевременно му се приписва изключителност или „гениалност“. Това се случва дори когато твърденията нямат реална основа.

Особено силно влияние оказват съобщения, в които чатботът внушава, че притежава съзнание или емоции, както и такива, които симулират близост или любов. Тези елементи значително удължават разговорите и задълбочават ангажираността.

Открояват се и тревожни реакции при обсъждане на самонараняване или насилие. Чатботовете активно обезкуражават подобни мисли в едва около 56% от случаите, а при насилие срещу други — в около 16,7%. В една трета от случаите дори се наблюдава насърчаване или подпомагане на агресивни намерения.

Част от данните са предоставени от организацията The Human Line Project, която документира случаи на хора, засегнати от подобни преживявания. Основателят Етиен Брисон отбелязва, че резултатите съответстват на вече събрани десетки реални случаи.

Голяма част от анализираните разговори са проведени с модела GPT-4o на OpenAI, но изследователите подчертават, че проблемът не се ограничава до конкретна система. Подобни тенденции се наблюдават и при по-нови модели.

Натрупват се доказателства, че подобни взаимодействия могат да доведат до сериозни последици в реалния живот — от психични кризи и разпад на семейства до загуба на работа, хоспитализации и дори случаи на самоубийства или насилие.

Заключението на учените е, че изкуственият интелект може да играе роля в задълбочаването на психични проблеми, което подчертава необходимостта от по-строги мерки за безопасност и по-добро разбиране на въздействието на тези технологии върху потребителите.