Співзасновник та генеральний директор Google DeepMind і Isomorphic Labsнобелівський лауреат Деміс Хасабіс закликав США виступити з ініціативою створення нової організації для нагляду за штучним інтелектом (ІІ). Він підкреслив, що відомство має мати право на перевірку найпросунутіших у світі моделей та координувати уповільнення їх розвитку в масштабах усієї галузі, якщо з'явиться будь-яка небезпека.
У своїй статті на Substack Хасабіс зазначив, що США можуть очолити розробку системи стандартів для ІІ. Він запропонував створити орган на зразок державно-приватного партнерства під федеральним наглядом — за участю незалежних технічних експертів та представників відкритого вихідного коду.
Наприклад, він навів уже існуюче в Сполучених Штатах Управління регулювання фінансової індустрії (Financial Industry Regulatory Authority, FINRA), яке працює за схожою моделлю. Також він згадав економічне та технологічне становище США, завдяки якому країна «має всі можливості» для того, щоб зробити перший крок у розробці такої системи.
«Ця ініціатива, висунута США, стане гарною відправною точкою для створення спільних міжнародних стандартів у галузі передового штучного інтелекту. В ідеалі ця система підштовхне міжнародне співтовариство до досягнення консенсусу щодо управління найбільш серйозними ризиками», — підкреслив Хасабіс.
Як зазначив експерт, передові моделі створюють погрози для кібербезпеки. Він не виключив також у міру їх розвитку появу ризиків, пов'язаних із біологічною та ядерною зброєю. Саме для запобігання таким загрозам і має бути створена нова організація, упевнений Хасабіс.
Згідно з пропозицією гендиректора Google DeepMind, як перше правило необхідно встановити добровільне надання ІІ-моделей на оцінку новому органу за 30 днів до випуску, а після перевірки ефективності такого механізму зробити процедуру обов'язковою для виходу на ринок Сполучених Штатів.
“Орган зі стандартизації відповідатиме за розробку протоколів оцінки та співробітництво з відповідними федеральними агентствами та національними лабораторіями США для проведення випробувань у галузях, що мають відношення до національної безпеки”, – заявив Хасабіс.
Крім технічних завдань, належить вирішити економічні та філософські питання, вважає нобелівський лауреат. Він наголосив на важливості побудови нових економічних моделей та розуміння, як зміниться роль людини при розвитку технологій.
Особливу увагу він приділив появі загального штучного інтелекту (Artificial General Intelligence, AGI) — системи, яка має всі когнітивні здібності людського мозку. На думку Хасабіса, це буде «поворотний момент в історії людства», до якого, ймовірно, «залишилося кілька років».
Сам він порівняв появу подібної моделі із сингулярністю — гіпотетичним моментом у майбутньому, коли розвиток технологій досягне такого рівня, який стане некерованим та недоступним для людського розуміння.
В інтерв'ю Axios Хасабіс додав, що настав час для «системнішого» підходу до регулювання ІІ. Сьогоднішні кібер-ризики, пов'язані зі штучним інтелектом, на думку глави проекту Gemini у Google, це «попереджувальні постріли». Більш серйозні небезпеки можуть виявитися протягом 18 місяців, вважає він. Експерт пов'язав це із існуванням моделей з відкритим вихідним кодом, які непідконтрольні жодному уряду.
Саме тому Хасабіс кілька місяців потай заручався підтримкою плану створення єдиного регулятора ІІ, інформуючи адміністрацію президента США Дональда Трампа, колег з інших лабораторій та європейських чиновників, перш ніж оголосити про проект публічно, пише видання.
“Імпровізовані репресивні заходи адміністрації Трампа щодо моделей Mythos і Fable від Anthropic минулого місяця стали “свого роду тривожним дзвінком”, за словами Хасабіса, і доказом того, що Вашингтону потрібно щось більш ґрунтовне, ніж ситуативні директиви”, – уточнює Axi.
Нагадаємо, уряд США через побоювання щодо безпеки в червні розпорядився призупинити доступ до просунутих ІІ-моделей Claude Fable 5 і Mythos 5 для всіх іноземних громадян, які перебувають на території країни та за її межами, у тому числі закордонних співробітників компанії Anthropic, яка розробляла ці нейромережі.
