Президент США Дональд Трамп та керівники найбільших американських технологічних компаній підписали добровільну угоду про заходи безпеки при розробці штучного інтелекту (ІІ). Документ передбачає кілька рівнів внутрішнього та зовнішнього контролю за найбільш потужними ІІ-системами. Сам Трамп назвав домовленості «морально зобов'язуючими» і порівняв їх із конституцією.
Угода була досягнута за підсумками зустрічі президента з представниками технологічної індустрії у Білому домі. Серед її учасників були голова Meta Марк Цукерберг, засновник SpaceX Ілон Маск, голова Google Сундар Пічаї, гендиректор Anthropic Даріо Амодеї, керівник Nvidia Дженсен Хуанг та президент OpenAI Грег Брокман.
“Це майже як конституція, в деякому сенсі”, – заявив Трамп після зустрічі.
Компанії домовилися створити чотири рівні контролю за розробкою ІІ, уточнює Associated Press (AP). Зокрема, розробники повинні проводити внутрішню оцінку ризиків своїх систем, залучати незалежних зовнішніх аудиторів, а також надавати звіти радам директорів на окремий розгляд.
Цукерберг розповів, що угода передбачає створення “надійних механізмів внутрішнього контролю” для виявлення можливих проблем із технологією. Перевірки починаються всередині самих компаній, після чого до них мають підключатися незалежні аудитори та експерти.
«Я бачу величезне саморегулювання. І вони розуміють, що мають самі себе контролювати», – сказав Трамп.
У цьому угода має добровільний характері і не передбачає юридичної відповідальності підприємств порушення взятих зобов'язань. Трамп назвав документ «морально зобов'язуючим». Повний механізм реалізації домовленостей поки що залишається незрозумілим.
Глава Anthropic Даріо Амодеї, який неодноразово попереджав про можливі ризики швидкого розвитку ІІ, після зустрічі заявив, що вважає загрози технології реальними.
«Я думаю, що технологія має цілком реальні ризики. Механізм того, як ми справлятимемося з цими ризиками, все ще обговорюється», – сказав він.
Від «хворої змови» до контролю
Раніше RTVI розповідав про зростання загроз щодо можливих наслідків ІІ. За «алармічними» прогнозами штучний інтелект може найближчими роками вийти з-під контролю, захопити реальні ресурси і зрештою навіть знищити людство. Ці побоювання об'єднують представників полярних політичних кіл у США.
Трамп при цьому ще недавно займав, м'яко скажімо, скептичну позицію щодо подібних побоювань. Відповідні твердження він називав обманом, містифікацією, «хворою змовою» та порівнював із попередженнями про небезпеку кліматичних змін.
Водночас президент виступав проти зупинення розробки найпотужніших систем, стверджуючи, що це надасть перевагу Китаю. Як писав RTVI, раніше у вересні Трамп оголосив про створення в США “ІІ-сил” (AI Force) і назвав штучний інтелект наступною промисловою революцією, здатною в майбутньому забезпечити до чверті американського ВВП.
Проте нова угода, схоже, не означає, що адміністрація відмовилася від курсу на прискорений розвиток технології. Трамп після зустрічі знову виступив на підтримку будівництва дата-центрів, необхідних для роботи ІІ, та підкреслив значення галузі для американської економіки.
Одночасно з угодою про контроль над ІІ Трамп підписав указ, який наказує федеральним відомствам відмовитися від терміну «штучний інтелект» (Artificial Intelligence, AI) і замість нього використовувати «суперінтелект» (Super Intelligence, SI). Згідно з документом, Білий дім вважає, що нова назва краще відображає можливості та потенціал сучасних систем.
Федеральні відомства повинні перейти на термін Super Intelligence в офіційному листуванні, публічних заявах, звітах та інших документах. Протягом 60 днів радник президента з науки та технологій повинен також підготувати пропозиції щодо закріплення нового визначення у законодавстві.
