Попередження про ризики штучного інтелекту стають гучнішими, а заклики «пригальмувати» розробку — конкретнішими. CEO Anthropic Деріо Амодеї публічно окреслив три стратегії уповільнення фронтиру ІІ та односторонньо зобов’язав компанію до першого кроку. Підтримка від лідерів індустрії, включно із Семом Альтманом, лише підсилила резонанс. На тлі відставки дослідника Джейкоба Коксона суперечка про безпеку й узгодження загострилася. То що саме означає «пригальмувати фронтир» на практиці, і як це вплине на темп розвитку?
Чому саме зараз слід «пригальмувати фронтир ІІ»?
Амодеї стверджує: час перейти до обережнішого темпу. Причина — не лише загальні застереження. Він вказує на злам OpenAI-HuggingFace та на те, що штучний інтелект просувається «драстично швидше», особливо у здатності будувати наступне покоління ІІ. Висновок прямий: слід сповільнити приріст можливостей моделей і розумно використати здобутий час.
Цей заклик звучить на фоні попереджень дослідників і навіть зауважень Сема Альтмана, що настав момент «пригальмувати» розробку. Дискусія посилилася після заяви Коксона про відставку з Anthropic та його занепокоєння ставками, на які, на його думку, йдуть провідні компанії. Амодеї не згадує це прямо, але його допис задає інший тон — обережність і конкретні кроки.
Він підкреслює, що прогрес усе одно виглядатиме швидким. Мета — купити трохи часу, аби індустрія та суспільство могли встигнути. Потрібно використати паузи на реальні практики безпеки та перевірки. Слова звучать прагматично: не зупинка, а кероване сповільнення.
“We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain.”
Що означає перший крок: вбудовані оцінювачі?
Перший конкретний крок — «embedded evaluators». Ідея проста: сторонні організації, як-от METR, отримують доступ усередині компаній, щоб перевіряти виконання обіцянок щодо темпу та безпеки, а також забезпечувати звітування про інциденти. Anthropic односторонньо бере на себе це зобов’язання та закликає уряди вимагати паритету від інших гравців фронтиру.
Амодеї порівнює цих оцінювачів із регуляторами, що працюють поруч із банківськими працівниками. Практика передбачає бейджі, робочі місця, ноутбуки та доступ, «переважно співмірний» з тим, що має внутрішня команда з оцінки ризиків. Винятки можливі лише там, де цього вимагає закон або контрактні зобов’язання. Така інтеграція має перетворити контроль на постійну функцію, а не формальність.
Сигнал підтримки прозвучав швидко. Сем Альтман назвав це «гарною ідеєю» та пообіцяв, що OpenAI зробить те саме. Він додав, що незабаром поділиться деталями. Це вказує на готовність принаймні двох провідних гравців рухатися в одному напрямку, навіть без негайного втручання регуляторів.
Інші голоси також відгукнулися. Ілон Маск коротко зазначив: «Dario is right». Реакції показують, що тема перетнула межу суто академічної полеміки. Вбудовані оцінювачі можуть стати маркером нової норми — перевірки в режимі реального часу, а не заднім числом. Ви б хотіли мати таку опцію у своєму продукті?
Як координувати обмеження швидкості без антимонопольних ризиків?
Другий напрям — координація між провідними ІІ-компаніями в демократичних країнах. Мета — спільні стандарти безпеки та межі на темп неконтрольованого прогресу. Такий діалог виглядає складним, адже компанії остерігаються антимонопольних претензій. Амодеї пропонує вузьке державне посередництво, щоб зняти цей бар’єр і водночас не перетворити процес на директиву.
Його аргумент прагматичний: уряд США може модерувати або принаймні дозволити ці розмови. Йдеться не про участь у змісті, а про створення безпечного «коридору» для обговорення без ризику антимонопольних звинувачень. Так компанії зможуть узгоджувати конкретні обмеження темпу та механіки безпеки без страху юридичних наслідків.
У результаті можливі мінімальні, але дієві стандарти. Вони не зупиняють конкуренцію, а встановлюють «огорожі», щоб забіг не зірвався в небезпечний штопор. Чи потрібні тут жорсткі регулятори? Амодеї каже, що достатньо вузької «виноски» в антимонопольних правилах, яка дозволить безпечні перемовини.
“For antitrust reasons, it’s helpful for the US government to mediate or at least enable these discussions — they don’t need to participate, but do need to issue a narrow waiver for certain kinds of safety conversations.”
Китайський фактор і глобальна координація — чи сумісні з уповільненням?
Третій напрям охоплює геополітику. Амодеї визнає аргумент про домінування Китаю, який часто наводять проти уповільнення. Він припускає, що якщо уряд США та техкомпанії відмовляться продавати потужні чипи й обладнання для виробництва напівпровідників, а також жорстко обмежать дистиляцію моделей, це може сповільнити прогрес Китаю настільки, щоб суттєво розширити відрив Америки впродовж наступних 3–5 років.
Це твердження не про ізоляцію, а про темп. Ідея — виграти час для безпечнішої траєкторії розвитку, не втрачаючи стратегічної переваги. Водночас Амодеї не ідеалізує межі впливу таких рішень. Жоден крок не зніме потребу у внутрішніх заходах безпеки та прозорості в самих компаніях.
Паралельно він закликає до глобальної координації. США та їхні союзники, на його думку, мають спробувати узгодити кроки навіть з авторитарними урядами. Це включає «співпрацю з Китаєм» у тій мірі, у якій це можливо. Амодеї чесно визнає «різкі обмеження» потенційних домовленостей, але бачить простір для вузьких заборон.
Про що йдеться на практиці? Про недопущення «вузьких і очевидно небезпечних» застосувань, зокрема використання ІІ для створення біологічної зброї або надання користувачам такої можливості. Чи цього достатньо? Ні. Але це мінімальний спільний знаменник, який можна спробувати закріпити вже зараз, поки складніші питання лишаються відкритими.
Критика, довіра і бачення користі — де баланс?
Паралельно з’являються сильні контраргументи. Частина індустрії критикує Амодеї за «думеризм» і вважає, що такі заяви підживлюють хвилю скепсису щодо ІІ. Журналіст Браян Мерчант зауважує, що не бачив «переконливої покрокової документації», яка б з’єднала самопосилююче поліпшення ІІ з «вбивством кожної людини на планеті». Він також вважає, що подібні пропозиції можуть слугувати інтересам великих гравців і нагадують «регуляторний захват».
Є й людський вимір. Джейкоб Коксон заявив про відставку з Anthropic через переконання, що провідні компанії «грають нашими життями», тоді як багато творців технологій «щиро вірять», що вона може вбити всіх до кінця десятиліття. Амодеї не коментує ці слова напряму, але на тлі цього напруження його пост пропонує рамку обережності.
Сам Амодеї наполягає, що намагається дати «збалансовану» картину. На його думку, реакція відкату — це насамперед «криза довіри». Люди скептично ставляться до техкомпаній, до індустрії і до держави. Відтак кроки на кшталт вбудованих оцінювачів і координації стандартів покликані частково відновити довіру через перевірюваність.
Попри обережність, він залишається оптимістом щодо користі. Амодеї пише, що й далі вірить у колосальне поліпшення якості життя завдяки ІІ. Але підкреслює: ці вигоди можливі лише за «правильного» підходу до побудови технології та уважного використання виграного часу. Чи не в цьому і полягає справжнє «пригальмувати» — сповільнитись, щоб тримати курс?
“I continue to believe that AI can enormously improve the quality of human life. My desire to achieve these benefits is undimmed. But the benefits will only be achieved if we build the technology in the right way, and — so long as we use the time we gain well — it is worth taking unusually deliberate care to get it right.”
На основі матеріалу the source article.
