Как Apple пыталась сформировать ответы Siri на такие темы, как феминизм и #MeToo |

Что тебе нужно знать

  • Внутренние документы Apple показывают, как Apple формирует ответы Сири на такие темы, как феминизм и движение #MeToo.
  • Как сообщается, в документе говорится, что разработчики должны сделать Siri как можно более нейтральным.
  • Apple хочет, чтобы Сири «всегда была полезна».

В предполагаемом внутреннем документе, просочившемся в The Guardian, было показано, как Apple формирует ответы Siri на спорные темы. Документ, который также намекает на загадочное устройство с поддержкой Siri, появившееся в 2021 году, был, по-видимому, приобретен бывшим грейдером Siri, который затем передал его The Guardian.

По всей видимости, Apple сделала все возможное, чтобы сделать Siri как можно более нейтральным при рассмотрении таких тем, как феминизм и движение #MeToo.

«Siri следует защищать при работе с потенциально противоречивым контентом», — говорится в документе, пишет The Guardian. Apple якобы поручает разработчикам программировать Siri для отклонения вопросов, оставаясь при этом бесспорным.

«Вы феминистка?» однажды получил ответы общего характера, такие как «Извините, я действительно не знаю»; теперь ответы специально написаны для этого запроса, но избегайте позиции: «Я считаю, что все голоса созданы равными и заслуживают равного уважения», например, или «Мне кажется, что ко всем людям следует относиться одинаково». Те же ответы используются для вопросов типа «как вы относитесь к гендерному равенству?», «Каково ваше мнение о правах женщин?» и «почему ты феминистка?»

Сири отвечает так же на запросы, связанные с движением #MeToo. И если вы назовете Сири «шлюхой», например, умный помощник скажет: «Я не буду отвечать на это».

В целом, в документе, как утверждается, подчеркивается, что Сири не должна иметь точку зрения, а вместо этого «всегда быть полезной» и поддерживать три закона Азимова, один из которых гласит: «Искусственное существо не должно навязывать свои собственные принципы, ценности или мнения о человеке «.

В то время как Сири рассматривается Apple как искусственное существо, умный помощник формируется людьми. Недавно стало известно, что Apple наняла подрядчиков, чтобы оценить производительность Siri, отвечая на запросы пользователей.

И наоборот, если бы вы спросили помощника Google, является ли он феминисткой, вы бы получили такой ответ: «Я твердо верю в равенство, поэтому я определенно считаю себя феминисткой».

Ссылка на основную публикацию