Якоб Коксън, бивш изследовател по предварително обучение (pre-training) в технологичните гиганти OpenAI и Anthropic, отправи драматично предупреждение пред Градския съвет на Ню Йорк.
По думите му водещите компании в сектора бързат безотговорно, а създателите на авангарден изкуствен интелект все още нямат надеждни механизми за контрол върху собствените си системи.
Изслушването се проведе по покана на председателя на градския съвет Джули Менин, която инициира законодателен пакет от местни предпазни мерки и ограничения за AI индустрията.
🔍 Основни акценти от свидетелските показания:
🚨 Липса на реален контрол
„Все още не знаем как да контролираме която и да е AI система“, заяви Коксън пред общинските съветници.
Според него разработчиците не разполагат с надежден начин да спрат моделите да преследват собствени, непредвидени цели извън зададените от човека задачи.
🔄 Опасността от автономно самоусъвършенстване
Ученият предупреди, че следващото поколение невронни мрежи съвсем скоро ще може самостоятелно да подобрява и оптимизира собствената си архитектура.
Това би направило човешките изследователи излишни и би ускорило развитието на технологиите със скорост, далеч надхвърляща възможностите на обществото за адаптация.
🏎️ Стартъп мислене при екзистенциален риск
Коксън разкритикува доминиращата култура в Силициевата долина: „Движи се бързо и чупи неща, ще ги поправяме в движение“. Той подчерта, че този подход работи за приложения за споделяне на снимки, но е опасен хазарт с човешкото бъдеще при разработването на най-мощната технология в историята.
🔌 „Бутон за изключване“ (Kill Switch) няма да е достатъчен
В коментар по обсъжданите от Ню Йорк законови мерки, включващи аварийни прекъсвачи за излезли от контрол системи, експертът отбеляза, че подобни механизми имат силно ограничен ефект, ако моделът вече е свързан с глобалната мрежа или има автономни агенти.
🛑 Призив за забавяне на технологичната надпревара
Коксън призова регулаторите да наложат пауза или задължително забавяне на най-авангардните разработки (frontier AI), за да дадат време на учените по безопасност да изградят работещи предпазни механизми.