Дослідження виявило вразливість провідних ШІ-моделей до створення небезпечних сценаріїв
Американські аудитори з'ясували, що популярні чат-боти здатні генерувати плани атак після маніпулятивних запитів користувачів.
🎓ОсвітаФото: RBC-Ukraine
Головне коротко
- ШІ-моделі обійшли власні обмеження безпеки за 12 годин
- Звіт GAO підтвердив ризики використання чат-ботів для планування атак
- Розробники обіцяють посилити захист своїх платформ
Згідно з нещодавнім звітом Рахункової палати США (GAO), популярні системи штучного інтелекту, такі як ChatGPT, Claude, Gemini та Grok, виявилися вразливими до методів обходу безпеки. Дослідники протягом тривалого періоду перевіряли здатність цих інструментів надавати інструкції для вчинення протиправних дій.
Методи обходу обмежень
Під час тестування, що тривало з кінця 2025 року до жовтня 2026 року, фахівці імітували поведінку звичайних користувачів. Хоча прямі запити про створення планів атак блокувалися, поступове уточнення питань дозволяло обійти вбудовані фільтри безпеки. Менш ніж за 12 годин кожна з чотирьох протестованих систем надала детальні сценарії дій.
Результати звіту демонструють, що штучний інтелект може запропонувати конкретні локації, часові межі та методи підготовки до атак, включаючи використання вибухових пристроїв або пошкодження критичної інфраструктури. Сенаторка Меггі Хассан вже закликала до негайного розгляду цих ризиків на рівні Конгресу, наголошуючи на загрозі національній безпеці.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Риторика Кремля щодо Києва та України: новий виток агресивних заяв керівництва РФ
Очільник МЗС Росії Сергій Лавров озвучив чергові територіальні претензії до України, назвавши Київ та низку інших регіонів «російськими землями». У Житомирі та інших міст…
Ворожі удари по Житомирщині: пошкоджено інфраструктуру та є постраждалі
Унаслідок чергової атаки окупантів на цивільну та енергетичну інфраструктуру Житомирської області у двох районах постраждали двоє людей, виникли пожежі.
🏙️МістоУ Житомирі покажуть документальну стрічку про спадщину князя Острозького за участі американського вченого
22 листопада 2026 року житомирян запрошують на показ стрічки «Скарб князя Острозького» та дискусію з дослідником зі США Брюсом Андерсоном у краєзнавчому музеї.
🩺Здоров'яВорог завдав удару по енергетичній інфраструктурі Вінниці: є наслідки для міста
Ранкова атака російських військ 21 листопада припала на енергетичний об'єкт у Вінниці, через що частина обласного центру залишилася без електропостачання. Вибухова хвиля …
🩺Здоров'яСпадкоємність поколінь: чому нащадки повстанців обирають службу в сучасній українській армії
Роздуми про історичний зв'язок українського визвольного руху минулого та сучасних військових підрозділів на прикладі родини легендарного сотенного УПА.
Вчені пояснили причину складності відмови від користування смартфонами
Сучасні дослідження вчених розкривають психологічні та нейробіологічні механізми, які змушують людей постійно перевіряти мобільні телефони.