Технології / ШІ
⚠️
Anthropic: науковці обходили захист моделей для досліджень біозброї
Ars Technica · 11 вер. 13:02
Anthropic повідомила, що цього року зупинила кілька спроб науковців використати її технології для досліджень, які могли б допомогти у створенні біологічної зброї. Компанія навела п’ять прикладів «обходу контролю» та заходів із «приховування» мети досліджень, зокрема користувачів із заборонених країн — Росії, Китаю та Ірану. Серед випадків — дослідник, який «тижнями планував» експерименти з пташиним грипом за допомогою моделі Claude; фільтри безпеки обмежили його роботу найслабшими моделями. Компанія визнає, що не може бути впевнена в шкідливих намірах, і зазначає, що та сама інформація потрібна й для створення вакцини.
❧
Чому це важливо
Заява пролунала на тлі загострення суперечки про безпеку ШІ після того, як співробітник Джейкоб Коксон звільнився з компанії, заявивши, що працівники «щиро вірять», ніби ШІ «може вбити нас усіх до кінця десятиліття». Anthropic також оприлюднила нові деталі про спроби семи китайських лабораторій, зокрема Moonshot і DeepSeek, скопіювати її технології дистиляцією. Консенсус про необхідність регулювання біологічних застосувань ШІ серед керівників галузі та біобезпеки зростає.
Здатність моделей допомагати в біологічних дослідженнях має подвійне призначення, що ускладнює захист. Anthropic сигналізує про потребу в галузевій і державній розмові щодо біоризиків ШІ.
❧