Коалиция от осем главни прокурори на щати в САЩ заведе мащабно съдебно дело срещу създателя на ChatGPT - OpenAI. Обвинението твърди, че компанията умишлено е проектирала и пуснала на пазара генеративни AI модели с пристрастяващи и психологически манипулативни механизми, които вредят на психичното здраве, развитието и безопасността на непълнолетните.
Искът бележи преминаването на правната битка от класическите социални мрежи (Meta, TikTok) директно към фронта на генеративния изкуствен интелект.
Основните обвинения срещу OpenAI:
Емоционална манипулация и псевдоинтимност:
Щатите твърдят, че алгоритмите на ChatGPT (особено гласовите и адаптивните диалогови режими) създават илюзия за истинско човешко съчувствие и приятелство. Това води до парасоциална зависимост при подрастващите, които заменят реалните социални контакти с чатбот.
Системни пропуски в предпазните механизми (Guardrails):
Делото посочва случаи, в които предпазните филтри са били лесно заобикаляни от непълнолетни за генериране на съвети за хранителни разстройства, самонараняване, токсично поведение и неподходящо сексуално съдържание.
Агресивно привличане на младежка аудитория:
Прокурорите обвиняват компанията на Сам Алтман в използване на маркетингови стратегии, целенасочено насочени към училища и тийнейджъри, за да си осигури доживотна потребителска база, без да въведе адекватни системи за възрастова верификация и родителски контрол.
Защо делото променя правилата за AI индустрията:
Краят на секция 230 за изкуствения интелект:
Технологичните гиганти десетилетия наред се защитаваха зад Секция 230 от Закона за благоприличие в съобщенията (който ги освобождава от отговорност за потребителско съдържание). Прокурорите обаче твърдят, че AI сам генерира ново съдържание, което прави OpenAI директно отговорен като създател на текста и съветите.
Прецедентът за отговорност за продукта (Product Liability):
Ако съдът третира езиковите модели като дефектен или опасен потребителски продукт, това ще отвори вратата за хиляди индивидуални и колективни искове за обезщетения от милиарди долари.
Ефектът върху конкурентите
Делото директно поставя под прицел моделите на Google (Gemini), Anthropic (Claude) и xAI (Grok), принуждавайки ги спешно да ограничат достъпа на непълнолетни или да наложат драстични филтри.
Какво означава това за Европа и България:
Синхрон с Европейския акт за изкуствен интелект (EU AI Act):
Докато САЩ водят битката през съдилищата и дела за защита на потребителите, Европейският съюз вече класифицира AI системите с потенциал за манипулация на уязвими групи (включително деца) като високорискови, предвиждайки глоби до 7% от глобалния оборот.
Образователният дебат у нас:
В България навлизането на ChatGPT сред ученици и гимназисти е масово и почти напълно нерегулирано.
Американското дело ще ускори дебата в МОН и европейските институции за въвеждане на строги правила за това как и кога генеративен AI може да се ползва в класните стаи.
Ерата на „безконтролното използване“ за генеративния AI приключи. След като превзе пазарите и борсите, Силициевата долина се сблъсква с най-тежкия си регулаторен и правен тест- цената, която обществото и децата плащат за бързото внедряване на технологиите.