ChatGPT води до усвояване на по-повърхностно знание

ChatGPT и други AI чатботове все по-често изместват търсачките. Вместо да се ровиш из източници и да сглобяваш сам картината, тези мощни езикови модели ти поднасят готов отговор — с дребната, но реална опасност той да е напълно измислен.

Оказва се, че има още един проблем: колкото и удобно да е, този път към знанието не води до по-дълбоко разбиране, показва ново изследване в PNAS Nexus.

"Когато хората разчитат големи езикови модели да им обобщават информация по дадена тема, те усвояват по-повърхностно знание, отколкото при стандартно търсене в Google", пише съавторката Шири Мелумад, професор във "Уортън" към Университета на Пенсилвания, в текст за The Conversation.

Изводите са на база седем проучвания с над 10 000 участници. Хората получават задача да научат нещо по определена тема и на случаен принцип попадат в две групи — едните могат да ползват само AI чатбот като ChatGPT, а другите търсят по традиционен начин с Google. В края всички трябва да напишат съвет към приятел за наученото.

Резултатът е ясен. Групата, която разчита на AI, дава по-кратки и по-общи препоръки, с по-малко фактическа плътност. Участниците, които търсят през Google, формулират по-подробни и по-смислени насоки. Разликата остава дори когато изследователите изравняват условията — например предоставят на двете групи еднаква информация или контролират инструментите, които използват.

"Данните потвърдиха, че дори при еднакви факти и платформа, ученето от синтезирани отговори на първата група води до по-плитко знание в сравнение със самостоятелното събиране, тълкуване и обобщаване през стандартни уеб линкове", обяснява Мелумад.

Дългосрочните ефекти на AI върху мозъка тепърва се изясняват, но натрупващите се доказателства вече подсказват тревожни тенденции. Голямо изследване на екипи от "Карнеги Мелън" и Microsoft показва, че при хората, които приемат AI за безпогрешен, критичното мислене започва да отслабва. Друго проучване свързва тежката зависимост на студенти от ChatGPT с по-слаба памет и по-ниски оценки.

"Един от базовите принципи на ученето е, че усвояваме най-добре, когато активно работим с материала", подчертава Мелумад. "Търсенето в Google създава повече „триене“. Оваряме различни линкове, четем, сравняваме, тълкуваме и сами синтезираме информацията."

При сляпа разчитане на AI този труд се извършва вместо потребителя, което го превръща в процеса от активен в пасивен, добавя тя.

Докато учените продължават да изследват рисковете, технологията вече навлиза бързо в образованието и се използва масово за преписване и измами. OpenAI, Microsoft и Anthropic инвестират милиони в обучения за учители как да работят с AI в клас, а университети си партнират с тези компании, за да изграждат собствени чатботове за студенти — например проектът на Университета "Дюк" с OpenAI, наречен "DukeGPT".