Джефри Хинтън: Може би не трябваше да създаваме изкуствен интелект

Нобеловият лауреат Джефри Хинтън предупреди, че изкуственият интелект може да предизвика мащабна глобална криза в близките години и сравни риска с аварията в атомната централа в Чернобил.

Според Хинтън подобен инцидент би могъл да настъпи до края на 2026 г. или през 2027 г., например чрез кибератака, която да доведе до масово спиране на електрозахранването, или чрез срив, способeн да парализира финансовата система за една седмица.

Прогноза и възможни сценарии

78-годишният учен — често наричан „кръстникът“ на изкуствения интелект — посочва, че неконтролируеми AI системи могат да доведат и до масова безработица, задълбочаване на неравенството и социални напрежения.

Хинтън прогнозира, че до 2040 г. ще стане ясно дали обществото може да овладее рисковете и да постигне състояние на „радикално изобилие“, но също казва: „Може би щеше да е по-добре изобщо да не бяхме създали изкуствен интелект“.

Кой говори и в какъв контекст

Джефри Хинтън е посветил около 44 години на изследвания в областта на изкуствения интелект; той полага основите на концепцията за невронните мрежи още през 1970 г. През 2023 г. напуска Google и оттогава публично предупреждава за потенциалните опасности от AI.

Коментарите бяха направени преди премиерата на документален филм, в който участват както Хинтън, така и бившият му колега Демис Хасабис.

Критика към лидери в индустрията

Хинтън обвини ръководителите на водещи технологични компании, че приоритизират растежа и печалбата пред безопасността. Той каза, че „няма никакво доверие“ на изпълнителния директор на OpenAI Сам Алтман.

За Алтман, Марк Зукърбърг и Илон Мъск Хинтън заяви: „Те разбират рисковете, но не им пука – просто искат парите“.

Предложение за независима регулация

Като мярка за ограничаване на опасностите Хинтън предлага въвеждане на задължително, независимо тестване на усъвършенстваните AI модели преди пускането им на пазара. Той формулира идеята така: „Нуждаем се от нещо, подобно на Агенцията за контрол на храните и лекарствата (FDA) в САЩ, но за изкуствен интелект: компаниите за AI трябва да бъдат задължени да докажат пред независим орган, че даден модел носи повече полза, отколкото вреда“.

За да илюстрира необходимостта от регулация, Хинтън посочи примера с талидомида — лекарство, разработено от германската компания Chemie Grünenthal през 1954 г., което се е предлагало като безопасно приспивателно средство и лекарство срещу сутрешно гадене при бременни жени.

Проблемът с талидомида е бил открит късно: при прием между приблизително 34-тия и 50-ия ден от бременността детето развива тежки вродени дефекти, най-често липса или силно скъсяване на крайниците (фокомелия), както и малформации на вътрешните органи, очите и ушите.

По оценки между 12 000 и 20 000 деца по света са се родили с тези деформации; около половината от тях са починали в ранна детска възраст. Лекарството е било продавано в повече от 40 държави.

В заключение Хинтън запази умерен оптимизъм: „Вътрешното ми усещане е, че все още контролираме ситуацията“.