Поделиться
У Apple требуют отключить в iPhone ИИ. Он галлюцинирует и показывает пользователям выдуманные новости, приводя журналистов в бешенство
BBC и Национальный союз журналистов требуют от Apple отключить их ИИ, который генерирует выдержки из новостей, временами дополняя их небылицами. В Apple отмахиваются.
Не было такого
Журналисты и информационные агентства призывают Apple отозвать одну из ИИ-функций, присутствующую в последних версиях смартфонов компании. Функция Apple Intelligence призвана генерировать краткие выдержки из новостей, однако раз за разом ее ловят на генерации текстов, не имеющих никакого отношения к содержанию исходных новостных материалов.
«Галлюцинации» генеративного искусственного интеллекта – широко известная проблема, которую пока не удается исправить: в ответ на пользовательские запросы ИИ «синтезирует» абсолютно не соответствующие действительности ответы, вплоть до выдумывания имен и фактов.
Подобные инциденты случаются и с разработкой Apple. В декабре 2023 г. агентство BBC обратилось в компанию в связи с тем, что ИИ выдал ложную информацию от имени журналиста агентства.
В частности, в сгенерированном ИИ тексте говорилось, что Луиджи Манджиони (Luigi Mangioni), подозреваемый в убийстве исполнительного директора страховой корпорации UnitedHealthcare Брайана Томпсона (Brian Thompson), покончил с собой, что не соответствует действительности.
Позднее ИИ Apple некорректно объявил победителем чемпионата по дартс – PDC World Darts Championship – Люка Литтлера (Luke Littler), причем это сообщение появилось за несколько часов до начала самого чемпионата. К слову, Литтлер в итоге действительно стал чемпионом мира.
Ко всему прочему ИИ Apple приписал теннисисту Рафаэлю Надалу (Rafael Nadal) заявление о его нетрадиционной сексуальной ориентации, что не имеет никакого отношения к действительности.
В BBC заявили, что сгенерированные ИИ выдержки «не отражают, а порой и полностью противоречат оригинальным материалам BBC».
Apple долго отмалчивалась, и только в начале этой недели заявила, что снабдит все сгенерированные ИИ выдержки явными указаниями на их происхождение.
«Спрячьте и доработайте!»
Между тем, и Национальный союз журналистов Великобритании, и «Репортеры без границ», и отдельные журналисты призывают Apple полностью деактивировать этот ИИ, поскольку продукт явно не готов к практическому применению.
Алан Расбриджер (Alan Rusbridger), бывший редактор Guardian, заявил, что технология «вышла из-под контроля» и создает серьезные дезинформационные риски. «Доверие к новостям и так слишком низкое, не хватало еще, чтобы американские гигантские корпорации пользовались ими как продуктом для тестирования», – заявил Расбриджер. Сам он является членом надзорного совета (Oversight Board) корпорации Meta.
В свою очередь, генеральный секретарь Национального союза журналистов Лора Дэвисон (Laura Davison), заявила:
«В условиях, когда доступ к точной новостной информации как никогда важен, общественность не должна угадывать, соответствуют ли действительности новости, которые она получает».
По мнению Дэвисон, ИИ-продукт Apple необходимо отключить вовсе.
«Вся ситуация говорит о незрелости сферы применения ИИ в целом. Пока это рассматривается как модная игрушка, которую стремятся использовать абсолютно везде, без учета необходимости или уместности. Со временем ИИ призван стать таким же инструментом, как шариковая ручка или печатная машинка, обвинять которые в создании фейков сегодня кажется абсурдным, – говорит Дмитрий Гвоздев, генеральный директор компании «Информационные технологии будущего». – ИИ – сложная и неоднозначная технология, порождающая массу не только технологических, но и этических проблем. И использование его в любой чувствительной сфере всегда будет вызывать массу недовольства работающих в ней. Хотя это всего лишь инструмент, применение которого выявляет болевые точки отрасли. Что же касается проблемы недоверия общественности к новостям (равно как и «гипердоверия» людей к любой информации, если она соответствуют их мировоззрению), то она возникла задолго до появления ИИ».
BBC – далеко не единственное информационное агентство, которому ИИ приписывал небылицы: «додуманные» новости выходили и от лица The New York Times, и, вероятно, от лица других СМИ.
В Apple заявили, что их ИИ находится на стадии бета-тестирования, и что в него «постоянно вносятся улучшения» в соответствии с пользовательскими отзывами. «Мы призываем пользователей сообщать о случаях появления неожиданных выдержек», – отметили в пресс-службе Apple.
Apple Intelligence наряду с другими ИИ-инструментами доступен на iPhone 16, iPhone 15 Pro и Pro Max на базе iOS 18.1, а также на планшетах iPad и некоторых версиях ПК Mac.
Поделиться
Короткая ссылка
