Патрушев акцентировал внимание на комплексном развитии в Иркутской области
23:10
По следам айнов: гостиничный комплекс "Камуй Котан" создал на Итурупе резидент КОРФ
20:10
"Кофемашина": от автокофейни во Владивостоке до федеральной сети
19:15
"Дальневосточный Дзен": Семьи "мечтателей" и "реалистов" знакомятся с дальневосточным гектаром
18:45
Единоборства остаются самым популярным видом спорта у детей
18:30
В Находке стартует новый этап проекта поддержки для семей с особыми детьми
18:30
Как жители Уссурийска помогали раненым бойцам в госпиталях в 1945 году
18:16
Кит на берегу истории: Ливадия обрела символ своего прошлого
18:00
Семьи "Мечтателей" и "Реалистов" из центра России познают в быту "Дальневосточный Дзен"
16:40
"Ростелеком" и "Литрес" назвали лучшие отечественные экранизации за последние пять лет
16:00
Региональный эндокринологический центр создали на базе сельской больницы в ЕАО
15:25
Фестиваль "Литература на службе Победы" пройдет в Приморье 1 сентября
13:50
Экс-депутата ЗакСа Приморья отправили в СИЗО — в суд он прибыл на костылях и с медиками
13:10
Жители Дальнего Востока в 2024 году накопили 5,9 млрд рублей
12:45
В Приморье введены новые тарифы на эвакуацию маломерных судов
11:50

Есть камни, смотреть на солнце : какие опасные ошибки несет в себе контент от нейросетей

Тематическое фото Нейросеть
Тематическое фото
Фото: Нейросеть
Нашли опечатку?
Ctrl+Enter

Контент, сгенерированный нейросетями, может представлять серьезную угрозу для здоровья, предупреждают эксперты. Некоторые ошибки, допущенные искусственным интеллектом, например, в кулинарных рецептах, способны вызвать отравления, представляющие опасность для жизни. В ряде случаев рекомендации ИИ доходят до абсурда: пользователям предлагают съедать по камню в день, смотреть на солнце в течение долгого времени или даже курить во время беременности, пишут "Известия" (18+).

Опасные рецепты

Хотя нейросети демонстрируют впечатляющие способности, они подвержены феномену так называемых "галлюцинаций". Это происходит, когда программы придумывают факты и уверенно их излагают. Руководитель группы исследований в "Лаборатории Касперского" Владислав Тушканов отметил, что подобные ошибки встречаются нередко.

Так, нейросеть выдала рецепт чеснока в оливковом масле, соблюдение которого могло привести к отравлению ботулотоксином. Также одна из нейросетей ошибочно предложила добавить клей в рецепт пиццы. Это лишь несколько примеров того, как ошибки могут стать угрозой для здоровья людей.

Книги от ИИ: мифы и реальность

Ошибки ИИ встречаются не только в рецептах. К примеру, адвокат из США был оштрафован за использование фальшивых прецедентов, сгенерированных нейросетью, в подготовке судебного иска. В Великобритании семья отравилась ядовитыми грибами, следуя рекомендациям книги, созданной неросетью. В издании содержались опасные советы по определению ядовитых грибов, что привело к трагедии.

Как поясняет основатель издательства "Прондо" Елена Косма, проблема кроется в том, что нейросети анализируют огромные объемы информации из интернета, случайно смешивая данные из разных источников. 

Сферы риска

Эксперты предупреждают, что во многих сферах деятельность ИИ без человеческого контроля небезопасна. Студенты, например, могут использовать ИИ для прохождения тестов, что снижает качество образования. В здравоохранении и юриспруденции ошибки ИИ могут привести к серьезным последствиям.

Как минимизировать риски

Чтобы снизить риски, связанные с использованием ИИ, необходимо следовать базовым правилам: всегда перепроверять информацию и не принимать важные решения, основываясь на ответах нейросетей. Владислав Тушканов считает, что важно развивать критическое мышление и повышать цифровую грамотность, чтобы избежать проблем при взаимодействии с ИИ.

Также предлагаются меры по введению законодательного регулирования в критически важных сферах, таких как медицина и юриспруденция, а также создание систем верификации контента, сгенерированного нейросетями.

227889
118
157