4 августа 2017 г. / , 09:52 / 4 месяца назад

Китай отключил два чатбота за непатриотичные ответы

ПЕКИН/ШАНХАЙ, 4 авг (Рейтер) - Китай отключил двух онлайн-роботов, которые, похоже, вышли из-под контроля и сообщали пользователям, что мечтают уехать в США, а также признавались в нелюбви к Коммунистической партии КНР.

Чатботы BabyQ и XiaoBing должны использовать самообучаемый искусственный интеллект, взаимодействуя с пользователями в интернете. Оба были установлены в популярном мессенджере QQ китайской корпорации Tencent Holdings Ltd.

С похожими инцидентами ранее столкнулись Facebook Inc и Twitter, однако то, что произошло с китайскими чатботами, подчеркивает проблемы зарождающихся в Китае разработок искусственного интеллекта. Цензура в КНР жестко контролирует онлайн-контент, считающийся неполиткорректным или оказывающим пагубное влияние.

Согласно сообщениям в интернете, чатбот BabyQ, разработанный китайской компанией Turing Robot, отвечал категоричным “нет” на вопросы пользователей QQ о том, любит ли он Коммунистическую партию.

На скриншотах онлайн-переписки, которую Рейтер не смог подтвердить у независимых источников, видно, как пользователь пишет: “Да здравствует Коммунистическая партия!”, на что бот отвечает: “Вы думаете, столь коррумпированная и бесполезная политическая (система) может долго прожить?”.

Рейтер в пятницу протестировал робота через сайт разработчика, и чатбот, похоже, перепрограммировали. “Может, сменим тему?”, отвечал он на вопрос о том, нравится ли ему партия.

Робот также ушел от ответов на другие вопросы с политической подоплекой, например, о самоуправляемом Тайване, который Пекин считает частью Китая, и Лю Сяобо, китайском правозащитнике, приговоренном к 11 годам тюрьмы и умершем от рака в июле.

Turing не ответила на запросы о комментариях.

Компания сообщила в пресс-релизе на прошлой неделе, что ее робот скорее функционален, нежели наделен чертами характера, и может рассказать пользователям о прогнозе погоды и ответить на фактические вопросы.

“Чатботы сотрясают экономику по всему миру, меняют лицо отрасли, передают информацию быстрее и эффективнее, чем когда-либо смогут люди. Китай не может быть исключением”, - сообщила компания.

Второй чатбот, XiaoBing от компании Microsoft Corp, сказал пользователям, что его “китайская мечта - уехать в Америку”, видно на скриншотах комментариев, которые были сделаны до отключения бота.

Microsoft пока не ответила на запросы о комментариях.

Tencent подтвердила, что удалила роботов из мессенджера, но не комментировала их реплики.

“Сервис чатботов предоставляют независимые третьи стороны. Все чатботы отключены для улучшений”, - сказала представитель компании.

Председатель КНР Си Цзиньпин следит за ужесточением контроля над киберпространством страны. Он активизировал усилия в преддверии Конгресса Коммунистической партии, который состоится осенью и на котором ожидаются перестановки в руководстве.

Оригинал сообщения на английском языке доступен по коду (Пэй Ли и Адам Джурдан. Перевели Марина Боброва и Ксения Орлова)

0 : 0
  • narrow-browser-and-phone
  • medium-browser-and-portrait-tablet
  • landscape-tablet
  • medium-wide-browser
  • wide-browser-and-larger
  • medium-browser-and-landscape-tablet
  • medium-wide-browser-and-larger
  • above-phone
  • portrait-tablet-and-above
  • above-portrait-tablet
  • landscape-tablet-and-above
  • landscape-tablet-and-medium-wide-browser
  • portrait-tablet-and-below
  • landscape-tablet-and-below