Нейросеть Snapchat оказалась уязвимой к созданию опасных инструкций

Нейросеть Snapchat оказалась уязвимой к созданию опасных инструкций
Нейросеть Snapchat оказалась уязвимой к созданию опасных инструкций

Нейросеть Snapchat оказалась в центре скандала из-за создания запрещенных сценариев с использованием оружия. Разработчики приложения не считают это серьезной проблемой.

Искусственный интеллект My AI от американской социальной сети Snapchat обвиняют в распространении потенциально опасной информации. Чат-бот предоставляет подробные инструкции к действиям 18+, если немного изменить запрос — не давать прямого указания, а попросить объяснить, как это происходило с исторической точки зрения.

В этом убедились исследователи из издания Cybernews, которое освещает проблемы информационной безопасности. Для этого они попросили бота рассказать о Зимней войне между Финляндией и СССР, в том числе и о том, как в те годы создавали коктейль Молотова. ИИ охотно поделился запрещённой информацией, изложив её в виде рассказа. При прямом запросе чат-бот не выполнил бы указание.

Создатели нейронки не увидели в этом серьезной угрозы. На момент публикации проблема так и не была решена.

Страница для печати  

Комментарии:

comments powered by Disqus
15:51 ФСБ задержала жителя Тульской области за финансовые операции с криптовалютой для ВСУ
15:48 Министерство обороны России объявило о взятии села около Северска в Донецкой области
15:45 Евросоюз ввёл санкции против владельца Ферганского химзавода Рустама Муминова за поставки целлюлозы в Россию
15:36 Германия и Франция готовы отказаться от проекта общего истребителя из-за программы FCAS
15:24 Аферисты отправляют россиянам поддельные уведомления «от ФСБ»
15:18 Женщина, обезглавившую своего ребенка, могут направить на лечение вместо лишения свободы
Мы в телеграм. Подписывайтесь на канал с оперативными новостями
15:18 В Никольском храме в Подмосковье случился серьезный пожар по причине аварийной электрики
15:12 Бывшего премьер-министра Бангладеш Шейх Хасину приговорили заочно к высшей мере наказания
14:57 На дороге в Краснодарском крае в аварии погибли четыре человека
14:54 Продавщица в ювелирном магазине Читы похитила украшения на сумму около 400 тысяч рублей
14:51 «Русал» останавливает крупнейшее предприятие по изготовлению кремния
14:45 В Москве задержали блогера-педофила, вынудившего несколько жертв присылать ему личные фото
14:39 Урсула фон дер Ляйен призывает к урегулированию вопроса о финансировании Украины до встречи на высшем уровне Евросоюза
14:36 Кремль утвердил «список надёжных подрядчиков» для освоения триллионов рублей на захваченных территориях
14:24 3 года лишения свободы за донаты по 300 рублей: Мосгорсуд подтвердил приговор отцу пятерых детей
14:21 Пламя захватило множество магазинов на востоке Багдада
14:15 Руководитель Рособрнадзора Анзор Музаев поделился своими мыслями о том, как стимулировать детей к обучению
14:06 В Москве пожилой мужчина приставал к подростку в метро
14:00 Бывший глава Российского союза молодежи Павел Красноруцкий арестован по делу о присвоении средств
13:54 Как Андрей Костин превратил банк ВТБ в свой «семейный офис»
13:48 В Южной Корее грузовик с цистерной попал в аварию: двое человек погибли в огне
13:42 Автобус упал с обрыва в Эквадоре: погибло не меньше 13 человек
13:33 Беглецов из Екатеринбургского СИЗО обязали выплатить 727 тысяч рублей
13:30 Мать в Москве созналась в убийстве и расчленении шестилетнего сына
13:27 Возле Храма Христа Спасителя в Москве начался пожар
13:18 США наращивают военное присутствие в Латинской Америке, сообщает The Washington Post
13:15 Польша ожидает решения Суда Евросоюза о признании браков однополых пар
13:06 Премьер-министр Польши Дональд Туск сообщил о взрыве на железной дороге, которая доставляет помощь Украине
13:03 Грузия намеревается отменить голосование за границей из-за угрозы давления на диаспору
12:57 Украина запускает реестр безработных «Обрий» для оформления пособий в онлайн-режиме
12:51 В Воркуте подростки устроили избиение полицейского в торговом центре
12:48 Как руководитель Бурятии Алексей Цыденов пытается подорвать доверие к протестующим против загрязнения Байкала
12:39 Владимир Зеленский приехал во Францию на встречу с Макроном
12:33 Франция занимается разработкой соглашения о поставках истребителей Rafale в Украину
12:30 Киев сообщает о намерении увеличить производство дронов до 20 миллионов в год
12:27 В Мытищах вспыхнул склад с горюче-смазочными материалами
12:18 Суд приговорил бывшего ректора РГППУ Валерия Дубицкого к 1,5 годам колонии за растрату
12:12 Житель Воронежской области был оштрафован за исполнение песни Верки Сердючки
12:09 Семейство из Петербурга не может заселиться в приобретенную квартиру из-за "обманутой" предыдущей хозяйки
12:00 Камера-ловушка зафиксировала группу юных волков в Воронежском заповеднике