Чат-бот с искусственным интеллектом, выпущенный правительством Нью-Йорка и предназначенный для помощи владельцам бизнеса в доступе к информации, подвергся тщательной проверке из-за распространения неточных и вводящих в заблуждение рекомендаций.
В репортаже The Layout, опубликованном совместно с местными некоммерческими редакциями Documented And The City, рассказывается о многочисленных случаях, когда чат-бот давал неверные советы по поводу юридических обязательств.
Например, чат-бот с искусственным интеллектом утверждал, что начальники могут принимать чаевые от сотрудников, а арендодатели могут проводить дискриминацию в зависимости от источника дохода – оба совета неправильные. Чат-бот не справился?
Чат-бот, запущенный администрацией мэра Адамса в октябре 2023 года как расширение портала MyCity, описывается как «единый центр городских услуг и льгот» и работает на базе сервисов Azure. Майкрософт. Несмотря на намерение служить надежным источником информации непосредственно с веб-сайтов городских властей, пилотная программа, похоже, вызывает плохие отзывы.
В примере, приведенном The Layout, чат-бот утверждает, что предприятия могут работать как безналичные заведения, несмотря на запрет Нью-Йорка на такую практику в 2020 году.
В ответ на отчет Лесли Браун, представитель Управления технологий и инноваций Нью-Йорка, признал недостатки чат-бота и подчеркнул текущие усилия по усовершенствованию инструмента искусственного интеллекта:
«В соответствии с основными принципами города, касающимися надежности и прозрачности искусственного интеллекта, сайт информирует пользователей о том, что четко обозначенный пилотный бета-продукт должен использоваться только для контента, связанного с бизнесом, сообщает пользователям о наличии потенциальных рисков и призывает их посредством заявления об отказе от ответственности удвойте оба. -проверяйте комментарии по предоставленным ссылкам и не используйте их в качестве замены профессиональной консультации».
Подпишитесь на информационный бюллетень Ny Breaking и получайте все лучшие новости, мнения, функции и рекомендации, необходимые вашему бизнесу для успеха!
После многомесячного медового месяца начинают проявляться трещины, поскольку компании и правительственные учреждения начинают подвергать сомнению надежность, безопасность и защищенность искусственного интеллекта, вводя множество запретов и других строгих правил. Другие работы из Нью-Йорка Брейкинга
Статья добавлена ботом, с использованием машинного перевода : https://nybreaking.com/category/tech/
