Чат-бот MyCity, разработанный на базе платформы Azure AI, уличен в обмане

Чат-бот MyCity, разработанный на базе платформы Azure AI корпорации Microsoft, уличен в обмане, пишет Reuters.

Данный инструмент был запущен в октябре 2023 года муниципальными органами Нью-Йорка в качестве пилотного проекта и  предназначен для получения быстрого доступа к необходимой информации для местного бизнеса. Чат-бот рекламировался как первая общегородская технология на базе искусственного интеллекта, которая позволит владельцам бизнеса получать «действительную и достоверную информацию» в ответ на запросы, вводимые на онлайн-портале. Однако журналисты издания The Markup сообщили о том, что чат-бот ошибается. 

В частности, выяснилось, что ИИ-чат-бот предоставляет неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. При этом наиболее настораживает тот факт, что при повторных запросах на один и тот же вопрос MyCity мог давать разные ответы.

Корпорация Microsoft отказалась сообщить, что может быть причиной этих проблем, однако заверила, что работает над устранением всех недостатков.

*Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.