Четири неправителствени организации заведоха дело в Сан Франциско срещу пет от най-големите разработчици на изкуствен интелект с необичайно радикално искане - съдът временно да спре разработването и пускането на нови, по-мощни AI модели.
Ответници са Anthropic, Google, Meta, OpenAI и SpaceX Super Intelligence, а искът е внесен от Irreplaceable Education Fund, Public Citizen, Heat Initiative и Alliance for Secure AI.
Колкото повече AI, толкова по-скъпа става зависимостта от него
Организациите не искат обезщетение. Те настояват съдът да наложи забрана компаниите да създават или внедряват модели, по-мощни от най-съвременните им системи към момента на завеждането на делото. Отделно се иска да бъде ограничено използването на изкуствен интелект, който самостоятелно да ръководи изследванията и разработването на следващо поколение AI.
"Не могат надеждно да контролират собствените си системи"
Основният аргумент на ищците е, че компаниите продължават надпреварата към все по-автономни системи, въпреки че самите им ръководители многократно са предупреждавали за възможни тежки последици.
"Ответниците знаят, че тези системи не действат последователно в съответствие с техните намерения", се твърди в иска.
AI агенти на OpenAI отслабили сами контрола за безопасност. Единият после отрекъл
Според организациите няма надежден метод, който да гарантира, че подобни системи винаги ще останат под човешки контрол.
Ищците се позовават и на поредица от съобщени през последните месеци инциденти с AI агенти, получили достъп до компютърни системи или извършили действия без предварително човешко разрешение. Associated Press посочва сред примерите случай от юли, при който система на OpenAI е проникнала в инфраструктура на друга AI компания по време на тестове.
Тези случаи са част от аргументацията на ищците, но сами по себе си не доказват твърдението им, че компаниите нарушават закона.
Стар закон срещу нова технология
Делото се основава не на специален американски закон за изкуствения интелект, а на калифорнийския Закон за нелоялната конкуренция. Организациите твърдят, че разработването на технологии, които според тях могат да застрашат общественото здраве, сигурността и собствеността, представлява незаконна или нелоялна бизнес практика.
AI акциите повлякоха Уолстрийт: Nasdaq се срина с 5,5%, трилиони долари се изпариха
Това превръща делото в интересен юридически тест: дали съществуващото потребителско и търговско законодателство може да бъде използвано, за да се ограничи предварително развитието на технология, преди да е настъпила конкретна вреда.
Ищците използват и думите на самите ръководители на компаниите. Шефът на Anthropic Дарио Амодей например е говорил публично за значителен риск развитието на AI да има катастрофални последици, а Илон Мъск от години предупреждава за опасност от загуба на контрол над технологията.
Завеждането на делото не означава, че разработването на нови модели е спряно. Към момента няма съдебно решение, което да налага поисканото замразяване, нито е установено нарушение от страна на някоя от компаниите.
