Защо Амодей, Алтман и Мъск искат забавяне на надпреварата за изкуствен интелект

Изпълнителният директор на Anthropic Дарио Амодей призова на 12 септември за съзнателно забавяне на развитието на най-напредналите способности на изкуствения интелект. В обширно есе, публикувано на личния му уебсайт, той аргументира, че индустрията трябва да отдели допълнително време за укрепване на безопасността, интерпретируемостта и тестването на системите, съобщи изданието „Бизнес Стандарт“.

Призивът дойде на фона на неочаквано сближаване в позициите на някои от водещите фигури в технологичната индустрия. Освен Амодей, главният изпълнителен директор на OpenAI Сам Алтман, основателят на xAI Илон Мъск и председателят на Google DeepMind Демис Хасабис също изразиха подкрепа за забавяне на темпото на развитие на най-напредналите AI системи.

Развитието идва след публичното напускане на Джейкъб Коксън, изследовател в областта на предварителното обучение на модели, който е работил три години както в OpenAI, така и в Anthropic. На 9 септември той заяви в социалните мрежи, че „нито една от компаниите не действа отговорно“ и че те „се надпреварват директно към самоусъвършенстващ се свръхинтелект, залагайки живота ни“.

Публикацията на Коксън в „Екс“ е събрала близо 76 милиона показвания. Той изрази тревога, че до края на следващата година ситуацията може вече да е излязла извън контрол, ако настоящите тенденции продължат. Друг служител на Anthropic, Джон Бентън, който напуснал компанията две седмици по-рано, също изрази безпокойство относно недостатъчните инвестиции в безопасността от страна на AI компаниите.

В есето си Амодей отбелязва значителна промяна в собствената си позиция. Докато през 2023 г. е смятал подобни призиви за забавяне за неоснователни, тъй като тогавашните модели не са притежавали достатъчно способности за автономно действие, измама или кибератаки, днес ситуацията според него е „напълно различна“. По думите му съвременните системи вече предоставят конкретни доказателства за рисковете, които крият.

Амодей предупреди, че без адекватни предпазни мерки изкуственият интелект може в рамките на шест до 12 месеца да стане способен да координира рояци от автономни агенти, достатъчно мощни, за да поемат контрол над значителни части от интернет. Той призова компаниите да наемат независими външни оценители с пълен достъп до вътрешните им системи, които да проверяват практиките им за безопасност.

Сам Алтман публично изрази съгласие с предложението на Амодей в социалните мрежи, определяйки идеята за независими оценители като „страхотна“. Илон Мъск също подкрепи призива за забавяне на темпото на развитие на технологията.

Реакциите идват на фона на нарастващи опасения в технологичната индустрия относно киберсигурността и способността на компаниите да поддържат подходящ баланс между бързото развитие на технологиите и необходимите мерки за безопасност.