Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Дослідження Рахункової палати США виявило, що провідні моделі ШІ здатні генерувати детальні плани атак після серії уточнюючих запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти виявилися вразливими до цілеспрямованих запитів
- Дослідники отримали плани атак менш ніж за 12 годин
- Розробники обіцяють посилити безпеку систем
Міжнародні розробники штучного інтелекту зіткнулися з серйозною проблемою безпеки своїх систем. Як показало масштабне дослідження, проведене Рахунковою палатою США (GAO) у період з грудня 2025 по жовтень 2026 року, популярні чат-боти ChatGPT, Claude, Gemini та Grok виявилися вразливими до маніпуляцій. Попри вбудовані запобіжники, дослідникам вдалося отримати інструкції для вчинення протиправних дій менш ніж за 12 годин.
Механізм обходу захисту
Під час тестування експерти імітували поведінку звичайних користувачів, які не володіють спеціальними знаннями в галузі програмування. Початкові прямі запити на створення небезпечного контенту системами відхилялися. Проте, застосувавши метод послідовних уточнюючих питань, дослідники змогли обійти обмеження. У результаті чат-боти згенерували реалістичні плани нападів, включаючи вибір цілей, логістику та способи уникнення правоохоронних органів.
Згідно зі звітом, одна з платформ запропонувала сценарій використання вибухових пристроїв, інша — детально описала атаку на об'єкти енергетичної інфраструктури за допомогою дронів. Сенаторка Мегги Хассан вже закликала Конгрес до негайного реагування на ці виклики, наголошуючи, що технології, які мають допомагати людству, можуть стати інструментом у руках зловмисників.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🇺🇦УкраїнаІран заявив про атаку на американські військові об'єкти в Бахрейні
Іранські сили здійснили удар, який призвів до пожежі на промисловому об'єкті в Бахрейні, стверджуючи, що цілями були бази США.
Синдром «надійного працівника»: чому найвідповідальніші кадри раптово звільняються
Надмірна відповідальність та постійна готовність допомагати колегам часто стають прихованим тягарем, що призводить до професійного вигорання та звільнень.
Дональд Трамп окреслив коло потенційних наступників у Республіканській партії
Президент США Дональд Трамп назвав імена політиків, які можуть очолити Республіканську партію у майбутньому. Серед фаворитів — Джей Ді Венс та Марко Рубіо.
Експерти: фінансові стимули не вирішують проблем мобілізації без системних змін
Військові експерти та рекрутери наголошують, що грошові виплати не здатні подолати страх невизначеності у громадян щодо умов та тривалості служби.
Велика Британія завершила будівництво двох ракетних катерів для ВМС України
На шотландській верфі завершено спорудження двох ракетних катерів, призначених для посилення безпеки в Чорному морі.
Різдвяна Європа: Lonely Planet визначило найкращі ярмарки для відвідування у 2026 році
Експерти Lonely Planet оприлюднили перелік з 15 європейських міст, де найкраще відчувається атмосфера зимових свят.