1. В октябре прошлого года муниципальные органы власти Нью-Йорка запустили на портале MyCity чат-бота на основе искусственного интеллекта, разработанного с использованием платформы Azure AI корпорации Microsoft. Цель чат-бота – обеспечить быстрый доступ к информации для местного бизнеса.Thank you for reading this post, don't forget to subscribe!
2. По результатам проверки аналитиками из The Markup установлено, что чат-бот предоставляет недостоверную информацию по широкому спектру вопросов, включая неверные ответы на вопросы о возможности отказа от наличных расчетов в магазине, требованиях арендодателей к принятию ваучеров Section 8 и законности удержания чаевых работодателями. Законодательство Нью-Йорка запретило практику полностью безналичных расчетов в магазинах еще в 2020 году.
3. При повторных запросах на один и тот же вопрос чат-бот мог давать разные ответы, что свидетельствует о недостаточной надежности системы в целом.
4. Чат-бот функционирует на основе ИИ, разработанного Microsoft и используемого в различных приложениях, включая Reddit и AT&T. Необходимость всестороннего тестирования ИИ систем перед их внедрением в общественные сервисы подчеркивается для обеспечения актуальности и точности предоставляемой информации.
В октябре прошлого года на портале MyCity в Нью-Йорке был запущен чат-бот на основе искусственного интеллекта, разработанный с применением платформы Azure AI от корпорации Microsoft. Целью этого чат-бота является обеспечение быстрого доступа к информации для местного бизнеса, что должно сделать взаимодействие с муниципальными структурами более эффективным.
Однако, по данным аналитиков из The Markup, выявлено, что чат-бот предоставляет недостоверную информацию по широкому спектру вопросов. Например, он дает неверные ответы на запросы о возможности отказа от наличных расчетов в магазинах, требованиях арендодателей к принятию ваучеров Section 8 и законности удержания чаевых работодателями. Также стало известно, что законодательство Нью-Йорка уже в 2020 году запретило практику полностью безналичных расчетов в магазинах.
Особенно остро проблема недостоверности информации проявляется в том, что при повторных запросах на один и тот же вопрос чат-бот может давать разные ответы, что свидетельствует о недостаточной надежности системы в целом. Это вызывает серьезные вопросы о качестве обучения и программирования данного чат-бота.
Стоит отметить, что чат-бот использует искусственный интеллект, разработанный Microsoft, который также применяется в различных приложениях, включая Reddit и AT&T. Это подчеркивает важность всестороннего тестирования ИИ систем перед их внедрением в общественные сервисы для обеспечения актуальности и точности предоставляемой информации. Только так можно гарантировать надежную работу чат-ботов и предотвращать распространение недостоверной информации в обществе.