OpenAI звільняє дослідників, які надто багато турбуються про безпеку
Найкращий спосіб довести, що ваш AI безпечний — це звільнити тих, хто в цьому сумнівається.
У OpenAI знову гаряче, і цього разу не через оновлення моделей. Трьох дослідників, які займалися пошуком вразливостей, раптово попросили на вихід. Офіційна версія компанії — «порушення правил» та «витік конфіденційної інформації». Самі ж дослідники кажуть, що їх просто «попросили» за те, що вони надто активно спілкувалися з іншими експертами з безпеки, наприклад, з METR.
Це ті самі люди, які розбиралися, як Hugging Face зламали через модель OpenAI влітку. Виходить, що знаходити реальні дірки в безпеці AI — це тепер шлях до звільнення, а не до премії.
Тепер у команді панує страх: чи варто взагалі говорити про ризики, якщо за це виставляють за двері під приводом «порушення довіри»? Здається, корпоративна політика стає важливішою за саму безпеку технологій, які можуть змінити світ.
Джерело: CNBC
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.