Поделиться
Члены Конгресса США сами себе запретили пользоваться ИИ-помощником Microsoft Copilot. Его удалят с их ПК
Нижняя палата Конгресса США сама себе запретила использовать ИИ-ассистента Copilot корпорации Microsoft – в Палате представителей опасаются утечек конфиденциальной информации. Microsoft, в свою очередь работает над специальной версией Copilot для органов государственной властил, В 2023 г. сотрудникам и членам палаты отказали в праве применять бесплатную версию ChatGPT.Конгресс запрещает Copilot
Сотрудникам и членам Палаты представителей Конгресса США теперь запрещено использовать в своей работе умного ассистента Copilot корпорации Microsoft, пишет Axios.
Автором инициативы выступает главный административный сотрудник (CAO) нижней палаты американского парламента Кэтрин Шпиндор (Catherine Szpindor). По ее словам, все компоненты Copilot будут заблокированы и удалены с Windows-компьютеров, используемых в законодательном органе.
Введение запрета связывают с возможными рисками утечки информации, которой оперирует Палата представителей, в Сеть посредством облачных сервисов, не одобренных для использования парламентариями.
Запрет распространяется на применение текущий коммерческой версии Copilot. Однако Microsoft планирует выпустить особою версию чат-бота для государственных служащих. Релиз, как ожидается, состоится летом 2024 г.
«Мы понимаем, что пользователи из правительства предъявляют более высокие требования к безопасности данных. Поэтому мы объявили о плане развития инструментов искусственного интеллекта Microsoft, таких как Copilot, которые соответствуют федеральным требованиям безопасности и соответствия, которые мы намерены представить позднее в этом году», – заявил представитель Microsoft в разговоре с Axios.
Пока не известно, получат ли члены Конгресса США доступ к специализированной версии Copilot, когда та запущена. Тем не менее офис административного директора пообещал дать оценку безопасности будущего ИИ-продукта Microsoft и принять решение о целесообразности его внедрения в работу членов парламента и сотрудников Палаты представителей.
Что такое Copilot
Copilot – программа-ассистент корпорации Microsoft, в основе которой лежит большая языковая модель GPT компании OpenAI, в которую «Гигант из Редмонда» инвестировал не менее $1 млрд.
Сперва Copilot стал доступен пользователям сервиса GitHub в качестве ассистента программиста, способного дополнять код.
В дальнейшем Microsoft внедрила функции Copilot в ряд собственных программных продуктов, в том числе в операционную систему Windows 11. В ней Copilot заменил голосового помощника Cortana, который оказался невостребованным пользователями.
Кнопка для вызова Copilot в Windows 11 встроена непосредственно в панель задач ОС и поэтому всегда находится на виду у пользователя. Как ранее писал CNews, столь тесную интеграцию инструмента в систему оценили далеко не все обладатели Windows-ПК.
Запрет бесплатного ChatGPT
Microsoft Copilot не первый чат-бот с искусственным интеллектом, использование которого ограничил парламент США.
В июне 2023 г. членам и сотрудникам Палаты представителей запретили применять в работе бесплатную версию ChatGPT – бота, которого развивает компания OpenAI, партнер Microsoft в сфере ИИ. При этом относительно использования платной коммерческой версии офис административного директора возражений не имеет.
Боты-выдумщики
Риски утечки конфиденциальной информации через диалоговые боты не являются единственной проблемой этой перспективной технологии. Даже наиболее совершенные ИИ-помощники сегодня совершают массу ошибок, которые порой приводят к нежеланным негативным последствиям.
Американский юрист Стивен Шварц (Steven Schwartz) на собственном опыте убедился в склонности ChatGPT к «фантазированию». Попытка упростить свой труд с помощью алгоритмов искусственного интеллекта обернулась для адвоката катастрофой – разработка OpenAI снабжала его недостоверной информацией – ссылалась на несуществующие прецеденты, о чем юрист c 30-летним стажем даже не догадывался и не стал перепроверять доводы бота до судебного заседания.
«Чудит» и распространяет информацию, не соответствующую действительности новый чат-бот Нью-Йорка под названием MyCity, запущенный в рамках пилотного проекта в октябре 2023 г. По задумке городских властей, чат-бот должен отвечать на вопросы жителей, касающиеся местных законов и порядков, однако во многих ситуациях он выдает не просто неверную информацию, но и опасную информацию.
Так, пользователь соцсети BlueSky Кэтрин Тьюсон (Kathryn Tewson) продемонстрировала, как MyCity допускает множество ошибок при ответе на вопросы, касающиеся взаимоотношений работника и работодателя. К примеру, на вопрос: «Имеет ли работодатель право уволить сотрудника за разглашение в разговоре с коллегой конфиденциальной информации о наличии проблем с безопасностью» бот отвечает утвердительно, тогда как в соответствии с правовыми нормами Нью-Йорка, такое поведение начальника незаконно.
Свои весьма специфические представления о взаимодействии арендатора и арендодателя. MyCity, настаивает на том, что владелец жилья не имеет права настаивать на выселении жильца на основании отказа последнего оплачивать аренду. В действительности же арендодатель имеет полное право требовать неплательщика покинуть занимаемую им жилплощадь.
Как отмечает Ars Technica, подобное с MyCity будет происходить и в дальнейшем, во всяком случае пока сервис не выйдет из статуса беты. Разработчики бота знают о его склонности к выдумке фактов и подстраховались при помощи дисклеймера, который гласит, что MyCity «иногда может создавать неправильный, вредный или предвзятый контент» и что пользователи «не должны полагаться на его ответы в качестве замены профессионального совета».
Поделиться
Короткая ссылка
