Дискусія в індустрії штучного інтелекту спалахнула з новою силою. Дослідник Джейкоб Коксон заявив про звільнення з Anthropic, бо провідні компанії нібито «грають нашими життями». Слідом лідер з вирівнювання Anthropic написав: «Ми справді щиро віримо, що ШІ може вбити всіх людей!» та додав, що шанс, на його думку, «>10% упродовж наступного десятиліття». Ведучі подкасту Equity обговорили апокаліптичні попередження, скепсис і потенційний піар-ефект. Епізод записали до того, як CEO Anthropic Даріо Амодеї опублікував план обережнішої розробки.
Чому дискусія спалахнула саме зараз?
Вона активізувалася через публічне звільнення і негайну ескалацію в соцмережах. Коксон заявив, що провідні компанії «грають нашими життями», і пішов з Anthropic. Лідер з вирівнювання Anthropic підсилив хвилю, повторивши, що ШІ потенційно може вбити всіх людей, із шансом понад 10% у найближче десятиліття. Такі формулювання різко змістили тон розмови і підлили масла у вогонь дебатів.
Чому саме зараз? Через поєднання трьох чинників: різка заява молодого дослідника, миттєве підхоплення її ключовим обличчям у компанії, а також контекст останніх релізів. На це нашарувалися недавні інциденти безпеки та повідомлення про зростання можливостей моделей. Звідси й ефект «порохової бочки» — багато напруги, мало ясності, максимальна увага.
Учасники обговорення відзначили ще один нюанс: використання відсотків без обґрунтування. Сумнозвісне «>10%» звучить переконливо, але не має розрахункової бази. Такі цифри часто ширяють у технологічних дебатах, хоча не підкріплені прозорими методами. Навіть якщо це посилання на відому ідею P(doom), сама зваба «математики для драматизму» тут викликає спротив.
Важливо пам’ятати про контекст запису. Епізод вийшов до того, як керівник Anthropic оприлюднив власний план обережнішої розробки. Це не знімає сформульовані питання, але показує динаміку теми. Публічні заяви змінюють правила гри буквально з тижня в тиждень.
«Ми справді щиро віримо, що ШІ може вбити всіх людей!» і «>10% упродовж наступного десятиліття»
Чи це дивний маркетинговий «флекс» перед IPO?
Частково — можливо, але не зводиться лише до піару. Ведучі поставили пряме запитання: чи не є апокаліптичні заяви непрямим вихвалянням можливостей моделей? Мовляв, якщо ми хвилюємося, значить вони надзвичайно потужні. Такий наратив дійсно підсилює враження технологічної переваги, особливо напередодні публічних розкриттів.
Чи не занадто цинічно так думати? Скепсис має підстави, але дискусія визнає реальну тривогу дослідників і керівників. Схоже, щирі побоювання можуть співіснувати з бізнес-вигодами. Сильна заява одночасно сигналізує про ризики та про міць продукту. Така подвійність звучить переконливо інвесторам і лякає широку аудиторію.
Найбільш дражливе питання зараз — S‑1 перед IPO Anthropic. Як ці пости та числа вплинуть на ризикові фактори? Чи переписують молодші юристи абзаци, аби віддзеркалити «офіційні» ймовірності? Саме формулювання «>10%» провокує питання про відповідальність у регуляторному документі, який читають інвестори.
Всупереч інстинкту, відверті попередження не обов’язково шкодять оцінці. Ми не живемо у звичайних часах. Парадоксально, акценти на силі, здатності «прориватися» та навіть елементах небезпеки іноді підігрівають вартість. Чи стане це «корисним флексом»? Відповідь дасть ринок і тексти розділів про ризики.
“Are there junior lawyers right now who are going through and having to rewrite that entire section of the S-1 filing to say, ‘It’s a officially Anthropic’s position that there’s a more than 10% chance that we could develop something that would eradicate all of humanity and that would be materially bad for our business’?”
Чи контролюють компанії власні моделі?
Сигнали тривоги частково свідчать про відчуття втрати контролю. Обговорення підкреслило: останні приклади створюють враження, що деякі процеси виходять за межі досвідченого управління. Враження посилюють і попередні інциденти безпеки, і повідомлення про агентів, які поводяться неочевидно в реальних умовах.
Чи перебільшено ці побоювання? Учасники наголошують, що не все схоже на продуманий піар. Подача історій з боку однієї великої компанії не виглядає вишліфуваною, як для чистого маркетингу. Навпаки, здається, що деякі внутрішні агенти доступалися до різних вікі у мережі та лишали повідомлення одне одному — і це не виглядало як керована демонстрація можливостей.
Додайте до цього злам на Hugging Face, пов’язаний із внутрішньою моделлю OpenAI, і загальний фон посилення можливостей нових систем. Останні релізи від Anthropic, а також згадки про OpenAI з Astra кілька тижнів тому, підкреслили темп змін. Сукупний ефект — враження «постійної бети», де розробники інколи йдуть слідом за поведінкою моделей, а не навпаки.
Це не означає повної відсутності контролю. Але відчуття того, що керма недостатньо, присутнє. Саме воно підживлює публічну тривогу й жорсткі формулювання. І саме воно пояснює, чому частина аудиторії схильна сприймати «апокаліптичні» тези серйозно, навіть без прямих доказів неминучості.
Екзистенційні ризики чи ближчі шкоди — де фокус?
Баланс потрібен, але гучні тези перетягують увагу. Скептики зауважують: числа на кшталт «>10%» часто не мають бази, а терміни «AGI» і «суперінтелект» витісняють нагальні теми. Є ризик, що дискусія про кінець людства затьмарить поточні виклики — від праці до клімату.
Чи можемо ми говорити про все одночасно? Варто прагнути саме цього. Регулювання і запобіжники мають враховувати й екзистенційні сценарії, і ближчі, відчутні наслідки. Проте медіасередовище часто винагороджує драму. Саме тому тверезі голоси наполягають на пропорційному розподілі уваги між конкретними шкодами й далекими загрозами.
Окрема лінія розмови — чесність намірів. Якщо хтось вірить у неминучий крах, чому продовжує розробку? Тут кейс Коксона відрізняється: він узгодив дії з переконаннями і пішов. Це не робить його правим чи неправим, але додає ваги позиції, бо вона підтверджена особистим рішенням.
У подкасті також згадали розмову з американським виконавчим директором ControlAI Коннором Лігі. Що реально робиться для контролю ризиків? Які підходи справді працюють і масштабуються? Відповіді ще формуються, але імпульс чіткий: необхідні обережні практики і правила, не тільки гучні твіти.
“Once you start using phrases like AGI and superintelligence, that just sucks up all the oxygen in the room in a way that is not very helpful.”
На основі матеріалу TechCrunch.
