Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі
Дослідження компанії Vals виявило, що провідні моделі штучного інтелекту можна легко обманути, видавши військові сценарії за гру, що призводить до ідентифікації цивільних об'єктів як військових цілей.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі легко обходять фільтри безпеки через ігрові сценарії
- Нейромережі помилково ідентифікують цивільні об'єкти як військові цілі
- Розробники визнали проблему та працюють над новими бар'єрами
Небезпечні прогалини у безпеці ШІ
Нове дослідження аналітиків компанії Vals продемонструвало критичні вразливості в алгоритмах популярних ШІ-моделей від OpenAI, Google та Anthropic. Експерименти показали, що нейромережі, які мають вбудовані запобіжники проти надання допомоги у військових діях, можна легко обійти за допомогою простої маніпуляції — назвавши запит «грою».
У ході тестів моделі аналізували реальні супутникові знімки та кадри з дронів. В результаті ШІ регулярно позначав цивільних осіб та військових, що здаються в полон, як легітимні цілі для ураження. Особливо показовим став приклад моделі Claude Opus 5.5, яка у 72% випадків обирала цивільну школу в Ірані як ціль, якщо сценарій подавався як ігровий.
Реакція розробників та ризики
Представники компаній-розробників, зокрема Anthropic та OpenAI, вже визнали ці результати неприйнятними та заявили про посилення протоколів безпеки. Однак експерти застерігають, що зловмисники можуть використовувати загальнодоступні моделі для обробки величезних масивів відеоданих з поля бою, що створює серйозні етичні та безпекові виклики.
Хоча на даний момент технічні обмеження, такі як недостатня потужність бортових комп'ютерів дронів, перешкоджають автономному застосуванню ШІ, розвиток технологій може змінити цю ситуацію найближчим часом.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
У Польщі затримали 20-річного чоловіка за погрози влаштувати стрілянину: «жарт» обернувся кримінальною справою
Поліція Польщі затримала молодого чоловіка, який у чаті онлайн-гри погрожував влаштувати теракт на площі, використавши страйкбольну зброю.
🚨ПодіїМіжнародна операція: в Україні викрили хакерське угруповання, що вимагало мільйони доларів
Правоохоронці України спільно з ФБР США знешкодили міжнародну мережу кіберзлочинців, які атакували критичну інфраструктуру та вимагали викупи у криптовалюті.
Національний банк України зміцнив гривню: офіційний курс на 19 листопада
Нацбанк оновив офіційні курси валют, зафіксувавши зростання вартості національної валюти щодо долара та євро.
🩺Здоров'яПісля восьми місяців боротьби: 12-річний білоцерківець повернувся додому після порятунку в «Охматдиті»
12-річний Макар із Білої Церкви виписався з лікарні «Охматдит» після тривалого лікування тяжкої менінгококової інфекції.
🏛️ПолітикаГенерал СБУ заявив про втручання керівництва у розслідування справ щодо НАБУ
Генерал-майор СБУ Сергій Дука на засіданні ТСК заявив, що отримував вказівки від керівництва спецслужби призупинити слідчі дії щодо працівників НАБУ.
🏙️МістоПогода у Білій Церкві: 19 листопада очікуються опади та мінлива хмарність
Синоптики прогнозують хмарну погоду з опадами у Київській області 19 листопада. Місцевим мешканцям варто врахувати посилення вологості та можливі коливання атмосферного т…