Екс-дослідник Anthropic свідчитиме про загрозу ШІ

Якоб Кокстон, колишній дослідник Anthropic, виступить на слуханнях у Нью-Йорку щодо штучного інтелекту. Він відомий своїми попередженнями про потенційну небезпеку ШІ для людства.

Попередження про екзистенційну загрозу

Якоб Кокстон, який нещодавно залишив компанію Anthropic, готовий надати свідчення на слуханнях у міській раді Нью-Йорка. Ці слухання присвячені регулюванню штучного інтелекту та розробці заходів безпеки для цієї технології. Кокстон раніше висловлював серйозні побоювання щодо майбутнього ШІ, стверджуючи, що до кінця десятиліття штучний інтелект може призвести до повного вимирання людства. Він також критикував таких гігантів, як OpenAI та його колишнього роботодавця Anthropic, за «ризикування життям» у гонитві за розробкою передових систем ШІ.

Ініціатива Нью-Йорка щодо регулювання ШІ

Запрошення Кокстона виступити свідком є частиною ініціативи спікера міської ради Нью-Йорка Адрієна Адамса (раніше вказано як Джулі Меєнінг, але за останніми даними спікером є Адамс). Адамс закликав інформаторів у сфері штучного інтелекту з’явитися та надати свідчення, оскільки міські законодавці розглядають низку законопроєктів, спрямованих на встановлення запобіжників для розвитку цієї технології. Ці заходи покликані забезпечити відповідальний розвиток ШІ та мінімізувати потенційні ризики.

Контекст роботи Кокстона в Anthropic

Хоча деталі роботи Кокстона в Anthropic не розголошуються, його попередні заяви вказують на глибоке розуміння потенціалу та ризиків, пов’язаних із сучасними системами штучного інтелекту. Його виступ на слуханнях може надати цінні інсайти для законодавців, які намагаються збалансувати інновації з безпекою.

Ширший контекст регулювання ШІ

Слухання в Нью-Йорку відбуваються на тлі зростаючої глобальної уваги до регулювання штучного інтелекту. Різні країни та міжнародні організації розробляють власні підходи до управління цією потужною технологією. Поява таких експертів, як Кокстон, на громадських слуханнях, підкреслює важливість діалогу між технічною спільнотою, урядовцями та громадськістю для формування майбутнього ШІ.

Відповідальність за розробку та впровадження штучного інтелекту стає все більш актуальною темою. Попередження від колишніх співробітників провідних компаній, таких як Anthropic, надають вагу аргументам на користь необхідності ретельного регулювання та етичних міркувань у сфері ШІ.

Джерело: https://www.ithome.com/1/009/769.htm