Власти Нью-Йорка решили не отключать советующий предпринимателям нарушать закон городской ИИ-сервис
Администрация Нью-Йорка отказалась прекращать работу городского чат-бота с искусственным интеллектом (ИИ) MyCity Chatbot, чьи советы предпринимателям шли вразрез с законодательством, сообщает в пятницу yahoo.com. Сервис был запущен в октябре 2023. Ег...
Администрация Нью-Йорка отказалась прекращать работу городского чат-бота с искусственным интеллектом (ИИ) MyCity Chatbot, чьи советы предпринимателям шли вразрез с законодательством, сообщает в пятницу yahoo.com.
Сервис был запущен в октябре 2023. Его задача – предоставлять информацию в ответ на вопросы об открытии или ведении бизнеса в городе. Чат-бот использует службы ИИ-сервиса Microsoft.
Со временем предприниматели стали замечать, что MyCity Chatbot стал выдавать некорректные советы. Например, чат-бот заявил, что закон допускает увольнение работников из-за жалоб на домогательства, отказа сообщить работодателю о беременности или нежелания стричь дреды.
Напомним, ранее сообщалось о склонности сервисов генеративного ИИ выдумывать «факты». Так, при попытке пересказать новость один из сервисов указал неправильно имя и возраст жертвы, напутал с местом, где произошло событие, фальсифицировал цитату мэра Буэнос-Айреса, указал неверно имя мэра и пр.
См. также: Чат-боты выдают неверную информацию по запросам в 3-27% случаев — исследование >>>