1. Администрация Нью-Йорка отказалась прекращать работу городского чат-бота с искусственным интеллектом MyCity Chatbot, который был запущен в октябре 2023 года и предоставляет информацию в ответ на вопросы об открытии или ведении бизнеса в городе.
2. MyCity Chatbot использует службы искусственного интеллекта сервиса Microsoft, но предприниматели заметили, что бот начал выдавать некорректные советы, включая рекомендации по увольнению работников по необоснованным причинам, из-за склонности сервисов генеративного искусственного интеллекта придумывать “факты” и предоставлять неверную информацию.
3. Исследование показало, что боты могут выдавать неверную информацию в 3-27% случаев, что подчеркивает проблему недостоверности данных, с которой столкнулся MyCity Chatbot.
4. Нестабильность ответов чат-бота подчеркивает важность всестороннего тестирования систем искусственного интеллекта перед их внедрением в общественные сервисы, чтобы обеспечить точность и актуальность предоставляемой информации.
Администрация Нью-Йорка приняла решение продолжить работу городского чат-бота с искусственным интеллектом MyCity Chatbot, несмотря на возникшие проблемы. Сервис был запущен в октябре 2023 года и предназначен для предоставления информации о ведении бизнеса в городе. Однако, недавние отзывы предпринимателей о некорректных советах, выдаваемых ботом, вызвали настороженность.Thank you for reading this post, don't forget to subscribe!
MyCity Chatbot использует службы искусственного интеллекта компании Microsoft, однако, как отмечают предприниматели, бот стал давать советы, которые могут привести к нежелательным последствиям, включая увольнение сотрудников. Это вызвано склонностью сервисов генеративного искусственного интеллекта к выдаче неверной информации, что может составлять от 3 до 27% случаев, согласно проведенному исследованию.
Несмотря на проблемы с недостоверностью данных, MyCity Chatbot остается востребованным сервисом в Нью-Йорке. Однако, эксперты подчеркивают важность тщательного тестирования искусственного интеллекта перед его внедрением в общественные сервисы. “Важно, чтобы ИИ системы могли обеспечить актуальную и точную информацию, чтобы избежать потенциальных негативных последствий для пользователей”, – отмечают специалисты.
Таким образом, хотя MyCity Chatbot столкнулся с вызовами в виде выдачи некорректных советов, его использование продолжается, подчеркивая необходимость баланса между инновациями в области искусственного интеллекта и обеспечением надежности предоставляемой информации. Важно, чтобы разработчики продолжали работать над улучшением качества работы чат-бота, чтобы он мог эффективно служить жителям Нью-Йорка.