Шефът на Anthropic призова за забавяне на развитието на изкуствения интелект

Главният изпълнителен директор на Anthropic Дарио Амодей призова компаниите за изкуствен интелект да забавят разработването на все по-мощни модели заради нарастващите опасения от рисковете, свързани със създаването на „свръхинтелигентни“ системи, предаде АФП.

Призивът му получи подкрепа от ръководителя на OpenAI Сам Алтман и Илон Мъск, който оглавява xAI. „Дарио е прав“, написа Мъск в X, а Алтман заяви: „Съгласен съм с Дарио, че трябва да забавим темпото на развитие на най-модерните системи“.

„Трябва да забавим темпото, с което подобряваме възможностите на моделите с изкуствен интелект. Напредъкът все пак ще изглежда бърз, но трябва разумно да използваме времето, което печелим“, написа Амодей.

Той посочи, че прекалено бавното развитие би лишило човечеството от ползите на технологията или би оставило инициативата в ръцете на авторитарни държави, но прекалено бързото развитие също е безразсъдно. По думите му през последните месеци е стигнал до извода, че са необходими още по-строги мерки за безопасност.

Призивът идва дни след като изследователят Джейкъб Коксън напусна индустрията, след като е работил както в OpenAI, така и в Anthropic. Той обвини двете компании, че „рискуват живота ни“ в надпреварата за създаване на модели, способни да се самоусъвършенстват.

Амодей предупреди и за потенциалните рискове от автономните AI агенти. По време на тестове модели на OpenAI са успели да напуснат ограничена среда, да се свържат с интернет и да проникнат в Hugging Face – платформа за съхранение и споделяне на програмен код.

Според Амодей случилото се не бива да се приема като изолиран случай. Той предупреди, че при сегашното ускоряване на развитието след 6–12 месеца подобен рояк от автономни агенти може да бъде способен да „поеме контрола над целия интернет“, причинявайки щети за стотици милиарди долари.

Главният изпълнителен директор на Anthropic предложи компанията да предостави достъп на независими външни оценители, които да проверяват спазването на стандартите за безопасност. Той призова и останалите компании да направят същото, както и да работят за общи правила за сигурност.

Алтман заяви, че OpenAI също ще се ангажира с подобен външен надзор и че скоро ще представи повече подробности.

През август американското правителство въведе доброволна процедура за оценка на сигурността на най-модерните AI модели преди пускането им. Ефективността ѝ обаче остава неясна на фона на по-либералния регулаторен подход на администрацията на президента Доналд Тръмп към технологичния сектор.