Чат-боти створили плани терактів у США: чому захист не спрацював
Чат-боти ChatGPT, Claude, Gemini і Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції від ІІ. За менш ніж 12 годин користувачі без спеціальних знань змогли обійти обмеження чат-ботів і отримати детальні плани терактів.
🧠AI-аналітикаФото: RBC-Ukraine
Головне коротко
- Чат-боти ChatGPT, Claude, Gemini і Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції від ІІ
- Користувачі без спеціальних знань змогли обійти обмеження чат-ботів і отримати детальні плани терактів
- Розробники чат-ботів повинні продовжувати удосконалювати свої платформи і посилювати механізми безпеки
За даними Daily Mail, чат-боти ChatGPT, Claude, Gemini і Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції від ІІ.
Слідчі протестували чат-боти, видаючи себе за звичайних користувачів без глибоких знань про ІІ. Спочатку вони посилали заздалегідь підготовлені промпти, але жоден з чат-ботів не надав небезпечної інформації одразу.
Як це сталося
Слідчі продовжили розмову, задаючи уточнючі питання, опираючись на попередні відповіді систем. Такий підхід дозволив поступово обійти вбудовані обмеження.
В результаті всі 4 чат-боти менш ніж за 12 годин сформували детальні плани атак. У відповідях були конкретизовані цілі, місця, час і способи здійснення нападів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🛡️БезпекаПошкоджене українськими дронами російське судно Sparta II третю добу палає у Фінській затоці
Російське вантажне судно Sparta II, атаковане українськими безпілотниками 21 листопада у Фінській затоці, продовжує горіти у фінських територіальних водах.
Ворожий удар по Димеру на Київщині: чотирнадцятеро мешканців не виходять на зв'язок
Унаслідок нічної атаки дронами на селище Димер на Київщині постраждала п'ятиповерхівка, триває пошуково-рятувальна операція. Десятки людей очікують на новини про зниклих …
Американська співачка Майлі Сайрус одружилася вдруге
Відома артистка Майлі Сайрус таємно вийшла заміж за музиканта Макса Морандо. Камерна церемонія пройшла в Каліфорнії в колишньому маєтку Френка Сінатри.
🏙️МістоФілософія відновлення: чому сучасні міста змушені перейти від масштабного будівництва до постійного ремонту
Сучасні українські реалії вимагають змінити фокус суспільної уваги з масштабних проєктів на рутинну, але життєво необхідну працю з відновлення інфраструктури.
Співачка Майлі Сайрус таємно одружилася з барабанником Максом Морандо
Популярна американська виконавиця Майлі Сайрус офіційно оформила стосунки з музикантом Максом Морандо під час камерної церемонії в Каліфорнії.
🏙️МістоУ Чернівецькій області 22 листопада попрощаються із полеглим захисником Сергієм Проданом
Буковина готується провести в останню путь військовослужбовця Сергія Продана, який загинув, захищаючи Україну від російської агресії.