Магистратура / Задания 2023 / Резюме №11 Subtle biases in AI can influence emergency decisions
.docxМинистерство цифрового развития, связи и массовых коммуникаций Российской Федерации
Ордена Трудового Красного Знамени федеральное государственное бюджетное образовательное учреждение высшего образования
«Московский технический университет связи и информатики»
(МТУСИ)
Кафедра: Иностранных языков
Дисциплина: «Иностранных языков»
Резюме
«Subtle biases in AI can influence emergency decisions»
Выполнил: Иванов И.И.
Группа: МБСТ0000
Проверил: к.т.н., доцент Лупанова Е.В.
_________________________
Москва 2023
Резюме
Стив Надис
Небольшие предубеждения в ИИ могут влиять на экстренные решения.
Декабря 16, 2012
Цель статьи – показать проблему ИИ, а именно он делает предубеждения, связанные с меньшинствами. Это может сильно повлиять при использовании ИИ в медицине или принятия решения в экстренных ситуациях.
Метод исследования, используемый в статье, представляет собой описание с элементами сравнения.
Первая часть посвящена проблеме использования искусственного интеллекта в медицине, потому что приборы на данных, которых обучаются ИИ, записывают эти данные по-разному. И у каждого человека могут отличаться маленькие детали организма. ИИ не сможет подстраиваться под всё, а значит могут возникать ошибки.
Вторая часть статьи посвящена эксперименту. ИИ давал информацию о людях в экстренной ситуации предвзято для участника эксперимента. Участники находились под сильным влиянием предписывающих рекомендаций предвзятой системы искусственного интеллекта. Это означает, что ИИ может взять стереотипы людей и обучиться на них, что может привести к плохим событиям в экстренной ситуации.
В статье описывается период эксперимента о предвзятости искусственного интеллекта.
Вывод автора заключается в том, что использование ИИ в критических ситуациях может быть опасно. Нужно тщательно проверять ИИ для медицины и рекомендательных систем, которые принимают решения в экстренных ситуациях.