ШІ-гіганти домовляються про спільні правила: що це означає для вас

Ідея саморегулівної структури за зразком Управління з регулювання фінансової галузі (FINRA), що наглядає за брокерами та інвестиційними фірмами у США, належить очільнику Google DeepMind Демісу Гассабісу. Ще в липні він закликав Вашингтон створити організацію, яка тестувала б найпотужніші ШІ-системи до того, як вони стануть доступними широкому загалу.

Керівник відділу глобальної політики OpenAI Кріс Лехейн розповів, що конкуренти співпрацюють уже кілька тижнів. За його словами, OpenAI підтримає ініціативи американських політиків, спрямовані на усунення потенційно катастрофічних ризиків, пов'язаних зі штучним інтелектом.

Гендиректор Anthropic Даріо Амодей раніше опублікував есе із закликом обмежити розробку найсучасніших ШІ-систем, щоб дослідники встигли краще зрозуміти можливі загрози. Його підтримали очільник OpenAI Сем Альтман та Ілон Маск.

Тим часом не всі в галузі сприймають таку співпрацю схвально. Американські антимонопольні регулятори поставилися до ідеї надати компаніям виняток для координації з безпекових питань скептично. Голова Федеральної торгової комісії Ендрю Фергюсон заявив, що розглядатиме такі запити з "глибокою підозрою", і додав, що компанії "просять про створення бар'єрів для входу на ринок", які захистять їх від конкурентів.

Гендиректор канадської Cohere Айдан Гомес звинуватив американських конкурентів у створенні "картелю" під виглядом турботи про безпеку. "Штучному інтелекту потрібні захисні бар'єри. Це не є предметом суперечки і ніколи не було. Суперечка полягає в тому, хто їх пише, хто може брати участь і чиї інтереси захищають ці правила", — написав він у своєму блозі.

Тривога лунає і від самих дослідників. Джейкоб Коксон, який раніше працював і в OpenAI, і в Anthropic, минулого тижня пішов з Anthropic, заявивши, що компанії-розробники ШІ "грають нашими життями". Колишній дослідник Google DeepMind Білал Чугтай також підтримав ці побоювання: "Я щиро вірю, що штучний інтелект має потенціал убити нас усіх, і що у нас, можливо, закінчується час, щоб уникнути цього", — написав він у соцмережах.

Що з цього практично для вас? По-перше, варто розуміти: правила гри для ШІ зараз пишуть самі його творці — і роблять це не так заради безпеки, як заради власних позицій на ринку. По-друге, якщо ви користуєтеся ШІ-сервісами в роботі чи навчанні, звертайте увагу, які саме системи проходять незалежну перевірку, а які виходять у світ без неї. По-третє, коли чуєте гучні обіцянки про "безпечний ШІ", варто ставити просте запитання: хто саме перевіряє і чиї інтереси ці перевірки захищають.

Коротко: OpenAI, Google DeepMind та Anthropic хочуть створити спільний наглядовий орган за подобою фінансового регулятора, ідея належить Демісу Гассабісу. Регулятори та частина конкурентів бачать у цьому ризик картелю, а дослідники закликають до обмеження розробки найпотужніших систем. Для вас головне — уважно дивитися, хто насправді визначає правила безпеки ШІ.