Facebook закрывает систему AI после того, как боты создают собственный язык

Через несколько дней после того, как генеральный директор Tesla Элон Муск сказал, что искусственный интеллект (AI) был самым большим риском, Facebook закрыл одну из своих систем ИИ после того, как «чатботы» начали говорить на своем родном языке, игнорируя предоставленные коды. Согласно сообщению в Tech Times в воскресенье, гиганту социальных сетей пришлось вытащить плагин в систему AI, над которой работали его исследователи, «потому что вещи вышли из-под контроля».

«ИИ не начинал закрывать компьютеры по всему миру или что-то в этом роде, но он прекратил использовать английский и начал использовать язык, который он создал», отмечается в отчете. Первоначально агенты АИ использовали английский для общения друг с другом, но позже создали новый язык, который могли бы понять только системы ИИ, таким образом, нарушая их цель. Это привело к тому, что исследователи Facebook закрыли системы ИИ, а затем заставили их говорить друг с другом только по-английски.

В июне исследователи из Исследовательской лаборатории AI (FAIR) обнаружили, что, хотя они были заняты попытками улучшить чат-боты, «агенты диалога» создавали свой собственный язык. Вскоре боты начали отклоняться от сценариев норм и начали общаться на совершенно новом языке, который они создали без человеческого вклада, сообщают СМИ. Используя алгоритмы машинного обучения, «диалоговым агентам» оставалось свободно разговаривать, пытаясь укрепить свои разговорные навыки. Хотя это, по-видимому, огромный скачок для ИИ, несколько экспертов, включая профессора Стивена Хокинга, подняли опасения, что люди, которые ограничены медленной биологической эволюцией, могут быть заменены AI. Другие, такие как Элон Муск из Теслы, филантроп Билл Гейтс и бывший основатель Apple Стив Возняк, также выразили свою озабоченность по поводу того, куда идет технология ИИ. Интересно, что этот инцидент произошел через несколько дней после словесной перепалки между генеральным директором Facebook и Муссом, который обменялся резкими словами по поводу дебатов о будущем ИИ.

«Я говорил с Марком об этом (ИИ). Его понимание предмета ограничено», написал Муск на прошлой неделе.

Твиттер появился после Цукерберга во время лимузина Facebook в начале этого месяца, избив Мускуса, чтобы утверждать, что уход и регулирование необходимы для защиты будущего, если ИИ станет основным.

«Я думаю, что люди, которые являются скептицистами и пытаются уничтожить эти сценарии конца света, я просто не понимаю. Это действительно отрицательно, и в некотором роде я на самом деле думаю, что это очень безответственно», сказал Цукерберг.

Муск часто говорил об ИИ и назвал его прогресс «самым большим риском, с которым мы сталкиваемся как цивилизация».

«AI редкий случай, когда нам нужно быть активным в регулировании, а не реагировать, потому что, если мы реагируем на регулирование ИИ, уже слишком поздно», сказал он.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *