Исследователи смогли разобрать, что с помощью "i" и "to me" искусственный интеллект указывает количество предметов, но понять значение всех "слов" невозможно
Специалисты лаборатории Facebook AI Research Lab (FAIR) пытались обучить чат-ботов общаться друг с другом на английском языке, но каждый раз искусственный интеллект переходил на другую форму коммуникации. Знакомые символы выстраивались в конструкции, непонятные для человека. После обнаружения сбоя исследователи решили остановить работу ИИ, передает Gagadget.
Это настораживает
Когда боты начинали взаимодействовать друг с другом, их диалог выглядел примерно следующим образом:
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
Bob: i . . . . . .. . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Исследователи смогли разобрать, что с помощью "i" и "to me" искусственный интеллект указывает количество предметов, но понять значение всех "слов" невозможно, как и в случае с шифрованием данных нейросетями. Свою роль сыграло и то, что в процессе обучения ИИ не получал никаких вознаграждений за использование английского языка. В результате боты перешли на более короткие обозначения, смысл которых остается загадкой для нас. Так и появляются опасения, что в будущем машины взбунтуются и объединятся против человечества, хотя IT-гиганты постараются не допустить подобный сценарий.
Что любопытно, буквально на прошлой неделе Марк Цукерберг назвал рассуждения Илона Маска о конце света из-за ИИ "безответственными". Сам он настроен более оптимистично, на что глава SpaceX и Tesla ответил: "Я обсуждал эту тему с Марком. Его понимание предмета поверхностно". Билл Гейтс, все еще самый богатый человек в мире, и физик Стивен Хокинг тоже обеспокоены развитием искусственного интеллекта, а Стив Возняк успел изменить свое мнение и теперь считает, что ИИ поможет человечеству.
Український Бізнес Ресурс
http://ubr.ua/
