Споры об этичности использования искусственного интеллекта, попавшего не в те руки, ведутся достаточно давно. Недавно скандал, связанный с этим, произошел с компанией Хуавей. С другой стороны, это значит, что телефоны Huawei купить можно как минимум из-за высокой технологичности. Пусть она иногда и приводит к печальным последствиям, но таковы издержки прогресса. Тем не менее случай крайне любопытный, поэтому трудно пройти мимо эксцесса.
На что способен фоторедактор с ИИ
Причиной скандала послужила свежая линейка смартфонов Huawei Pura 70. Оказалось, что встроенный фоторедактор, функционирующий на базе искусственного интеллекта, способен убирать с фото часть одежды человека. Интернет наводнили видео, в которых пользователи показывали, насколько легко умное ретуширование позволяет частично раздеть любого человека на фотографии.
Проблема самого наличия такой функции лежит в этической плоскости. Это открывает возможности для любого пользователя смартфона редактировать снимки людей без их согласия. При злонамеренном использовании это позволяет нарушать конфиденциальность людей и публиковать неправомерный контент с ними. Как отметили представители компании Huawei, эта функция стала доступна из-за наличия лазейки в алгоритмах ИИ. Компания обещает, что последующие обновления ОС будут включать в себя исправление этой проблемы.
Но ситуация с Хуавей является лишь отражением тенденции, возникшей в технологической среде. Вскоре после произошедшего издание 404 Media обратило внимание, что в официальном магазине приложений Apple можно свободно скачать фоторедакторы, позволяющие раздеть любого человека на фото. Компания заинтересовалась произошедшим и незамедлительно убрала приложения из доступа.
Оба случая демонстрируют тот факт, что техногиганты не занимаются специальным мониторингом подобных неэтичных инструментов. Так что либо это сфера подвергнется усиленной модерации, либо все останется как есть.
Актуальные новости об этике ИИ
Тенденция к потенциально неправомерному использованию нейросетей прослеживается и в других сферах. Наиболее резонансные новости последнего времени:
- Мошенник с помощью Deepfake-технологий создал копию американского стримера Адина Росса. Цифровой двойник интернет-знаменитости заставлял подростков портить вещи за денежное вознаграждение.
- Голосовому помощнику Sky в актуальной версии ChatGPT можно выбрать голос, напоминающий актрису Скарлетт Йоханссон. Актриса утверждает, что компания ранее обращалась к ней для получения прав на голос, но та им отказала. Генеральный директор компании OpenAI, ответственной за ChatGPT, Сэм Альтман отрицает обвинения.
- США и Китай провели встречу, на которой обсудили риски использования ИИ. Представители Соединенных Штатов выразили обеспокоенность по поводу злоупотребления Китаем технологий, связанных с искусственным интеллектом.
Развитие ИИ ставит перед человечеством много вопросов, которые будет необходимо решить.