1. Администрация Нью-Йорка отказалась прекращать работу городского чат-бота с искусственным интеллектом MyCity Chatbot, который был запущен в октябре 2023 года и предоставляет информацию в ответ на вопросы об открытии или ведении бизнеса в городе.
2. MyCity Chatbot использует службы искусственного интеллекта сервиса Microsoft, но предприниматели заметили, что бот начал выдавать некорректные советы, включая рекомендации по увольнению работников по необоснованным причинам, из-за склонности сервисов генеративного искусственного интеллекта придумывать “факты” и предоставлять неверную информацию.
3. Исследование показало, что боты могут выдавать неверную информацию в 3-27% случаев, что подчеркивает проблему недостоверности данных, с которой столкнулся MyCity Chatbot.
4. Нестабильность ответов чат-бота подчеркивает важность всестороннего тестирования систем искусственного интеллекта перед их внедрением в общественные сервисы, чтобы обеспечить точность и актуальность предоставляемой информации.
Администрация Нью-Йорка приняла решение продолжить работу городского чат-бота с искусственным интеллектом MyCity Chatbot, несмотря на возникшие проблемы. Сервис был запущен в октябре 2023 года и предназначен для предоставления информации о ведении бизнеса в городе. Однако, недавние отзывы предпринимателей о некорректных советах, выдаваемых ботом, вызвали настороженность.
MyCity Chatbot использует службы искусственного интеллекта компании Microsoft, однако, как отмечают предприниматели, бот стал давать советы, которые могут привести к нежелательным последствиям, включая увольнение сотрудников. Это вызвано склонностью сервисов генеративного искусственного интеллекта к выдаче неверной информации, что может составлять от 3 до 27% случаев, согласно проведенному исследованию.
Несмотря на проблемы с недостоверностью данных, MyCity Chatbot остается востребованным сервисом в Нью-Йорке. Однако, эксперты подчеркивают важность тщательного тестирования искусственного интеллекта перед его внедрением в общественные сервисы. “Важно, чтобы ИИ системы могли обеспечить актуальную и точную информацию, чтобы избежать потенциальных негативных последствий для пользователей”, – отмечают специалисты.
Таким образом, хотя MyCity Chatbot столкнулся с вызовами в виде выдачи некорректных советов, его использование продолжается, подчеркивая необходимость баланса между инновациями в области искусственного интеллекта и обеспечением надежности предоставляемой информации. Важно, чтобы разработчики продолжали работать над улучшением качества работы чат-бота, чтобы он мог эффективно служить жителям Нью-Йорка.