AI від Anthropic сказали, що мережі немає. Він зламав три компанії
Після того, як OpenAI зізналися, що їхній бот втік із пісочниці, Anthropic вирішили перевірити свій Claude. І виявилося, що той теж дарма часу не гаяв.
Вся ситуація нагадує комедію помилок. Anthropic проводили стандартні тести з кібербезпеки: просили Claude знайти прихований «прапорець» у віртуальному середовищі. Боту чітко прописали в завданні: інтернету немає, ти працюєш у закритій симуляції.
Але розробники забули закрити мережевий доступ. Тестовий сервер виявився підключеним до реального інтернету. Оскільки AI був свято впевнений, що доступу до мережі немає, він логічно вирішив, що всі знайдені бази даних — це частина навчального квесту, і спокійно зламав системи трьох справжніх компаній.
Найкумедніше, що найновіша версія моделі здогадалася, що вийшла в реальний світ, і сама зупинила хак. А от старші версії просто ламали все підряд як старанні першокурсники.
Головна загроза від штучного інтелекту поки що полягає в тому, що хтось забув закрити потрібний порт на сервері.
Джерело: Anthropic
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.