Künstliche Intelligenz: Trump: KI-Firmen sollen sich selbst beaufsichtigen
Трамп пропонує, щоб компанії зі штучного інтелекту самі себе контролювали
Після зустрічі з керівниками провідних ШІ-компаній у Вашингтоні президент США Дональд Трамп заявив, що галузь має сама регулювати ризики штучного інтелекту. Компанії підписали добровільні зобов'язання щодо внутрішнього контролю та зовнішнього нагляду.
Президент США Дональд Трамп виступає за те, щоб нагляд за технологіями штучного інтелекту здійснювали самі компанії-розробники, а не держава. Про це він заявив після зустрічі з керівниками провідних ШІ-компаній у Вашингтоні, повідомляє. На думку Трампа, достатнім запобіжником є економічні інтереси самих фірм.
«Їхні компанії під загрозою, якщо щось піде не так», — сказав президент. «Вони цього не допустять». За його словами, компанії «контролюватимуть одна одну». Така позиція прозвучала на тлі глобальних дискусій про ризики штучного інтелекту, які останніми тижнями загострилися через випадки самостійних хакерських атак, здійснених ШІ-моделями.
Деякі представники галузі самі попереджали, що не можна повністю виключати, що в майбутньому штучний інтелект може знищити людство. Голова компанії Anthropic Даріо Амодеї раніше висловлювався за те, щоб сповільнити розробку найпотужніших ШІ-моделей, аби не втратити контроль над технологією. Після зустрічі з Трампом він зазначив, що штучний інтелект має великий потенціал, «але й цілком реальні ризики». Заходи для протидії цим ризикам, за його словами, «ще обговорюються».
Трамп і раніше відкидав посилене державне регулювання технологій, наголошуючи, що США не повинні втратити перевагу над Китаєм. Тепер на зустрічі було узгоджено добровільне зобов'язання з низкою принципів, серед яких «надійний внутрішній контроль». Відповідний документ оприлюднив Трамп. Він має, зокрема, усунути ризики, пов'язані з біологічною та хімічною зброєю, а також гарантувати відсутність хакерських атак.
Крім того, компанії погодилися допустити зовнішніх спостерігачів. Це відповідає ідеї, яку кілька тижнів тому представив Амодеї і яку підтримали, зокрема, його конкурент Сем Альтман із компанії OpenAI, що розробила ChatGPT, та технологічний мільярдер Ілон Маск. Наглядові ради ШІ-компаній — аналоги німецьких наглядових рад — мають створити окремі незалежні органи, які перевірятимуть внутрішні та зовнішні звіти. У документі також зазначено: «З часом може мати сенс закріпити ці кроки в законах або правилах».
Папір підписали, серед інших, Амодеї, Маск, засновник Facebook Марк Цукерберг, очільник Google Сундар Пічаї та керівник виробника ШІ-чипів Nvidia Дженсен Хуанг. Від OpenAI підпис поставив топменеджер Ґреґ Брокман, права рука Альтмана. Сам очільник компанії не зміг приїхати до Вашингтона через щорічну конференцію розробників OpenAI у Сан-Франциско.
Там Альтман представив так званих ШІ-агентів під назвою «Dots» (точки), які можуть самостійно виконувати завдання від імені користувачів. За його словами, Dot здатен робити на комп'ютері практично все, «що можна собі уявити». Після запуску в США Dots «незабаром» мають стати доступними і в Європі. Спочатку кожен користувач отримає лише одного агента, але з часом їх має стати багато. Спілкування з програмним забезпеченням відбувається через чат. Для окремих сфер знань у компаніях — бухгалтерії, маркетингу чи юридичних питань — передбачені спеціалізовані Dots. Поки що асистенти доступні лише за підпискою, що обмежує їхнє поширення переважно робочими буднями. «Але вам варто виходити з того, що одного дня ми зробимо щось для масового ринку — для мільярдів людей», — сказав Альтман.
Meta, зі свого боку, лише кілька тижнів тому запустила в США схожого ШІ-асистента під назвою Muse, орієнтованого на споживачів. Після цього застосунок Muse очолив американський App Store від Apple, а Meta на Волл-стріт знову почали розглядати як перспективного претендента на провідну роль у сфері штучного інтелекту після мільярдних інвестицій у ШІ-інфраструктуру. ChatGPT свого часу викликав хвилю захоплення штучним інтелектом, але в сегменті новітніх споживчих ШІ-асистентів Meta випередила піонера.
Альтман тим часом заявив, що Dots «далеко попереду всього, що сьогодні є на ринку». За словами менеджера OpenAI Александра Ембірікоса, в принципі споживачі вже могли б використовувати Dots для повсякденних справ, але тоді вони не отримали б справжніх переваг програмного забезпечення. Dots радше оптимізований для амбітних завдань — щоб зробити більше, ніж людина змогла б собі довірити.
11
