Создан искусственный интеллект, который думает как маньяк - «Интернет и связь»

Исследователи из Массачусетского технологического института создали искусственный интеллект по имени Норман. Его главная функция — определять, что изображено на картинке. Обучали его на сценах гибели людей, поэтому теперь он во всем видит насилие и убийства.

«Норман родился из того факта, что данные, используемые для машинного обучения, могут существенно повлиять на его работу. Поэтому, когда мы говорим об ошибках ИИ и алгоритмов, „преступником“ часто является не сам алгоритм, а предвзятые данные, которые он получил», — объяснили создатели.

Чтобы показать это, исследователи обучили алгоритм на массиве подписей к изображениям из раздела Reddit, посвященного жутким способам смерти. Затем Норману показали тесты Роршаха и сравнили его ответы с ответами стандартного искуственного интеллекта, обученного на нейтральном массиве картинок.

К примеру, здесь Норман видит мужчину, который погибает от удара током. Для обычного ИИ это птицы на ветке дерева.

На этой картинке Норман разглядел застреленного человека, нейтральный алгоритм — вазу с цветами.

Тут «ИИ-психопат» увидел человека, прыгающего из окна, а его спокойный вариант — пару людей.

Еще один тест вызвал у Нормана ассоциации с «человеком, застреленным на глазах у кричащей жены». Для обычного ИИ это человек с зонтиком.

Ученые попросили интернет-пользователей помочь Норману исправиться. Любой желающий может заполнить опросник и внести свои ассоциации с картинками из теста Роршаха. После их используют для обучения искусственного интеллекта.

Сутки на Земле удлиняются

Врачам в США удалось вылечить рак груди в терминальной стадии

Археологи раскрыли тайну постройки статуй с острова Пасхи

Если вы заметили ошибку в тексте новости, пожалуйста, выделите её и нажмите Ctrl+Enter