Google и OpenAI описано пять проблем создания роботов с искусственным интеллектом

Глобальный Взгляд Пресс

Google и OpenAI вместе с исследователями из Калифорнийского университета в Беркли и Стэнфордский Университет выделил пять практических проблем, связанных с разработкой машин с искусственным интеллектом. Технические подробности работы приведены в статье, опубликованной на ArXiv.orgи простые примеры проблема, описанная в блоге Google, один из соавтор исследования Крис Оле.

Как отмечается в публикации, есть еще много разговоров об опасности искусственного интеллекта носил спекулятивный характер. Совместное исследование компаний и университетов позволило описать конкретные проблемы, которые необходимо решать при проектировании систем с искусственным интеллектом.

Первая из этих проблем называется «избежать негативных последствий» и то, что ИИ может выполнять различные вредоносные действия, чтобы достичь цели. Таким образом, робот может разбить вазу, чтобы ускорить процесс очистки.

Вторая проблема касается возможности мошенничества робот с ИИ. Например, как человек ленивый, этот же робот может просто прикрыть мусор и не удалять его. Возможно, в этом примере это, между прочим, пыль, подгоняя под ковер.

Третий вопрос включает вопросы, основанные на ИИ из отзывов от человека, чтобы успешно выполнить поставленную задачу. Поэтому, если пылесос будет получить рекомендацию человека в процесс, он будет использовать его, не задавая много дополнительных вопросов.

Четвертая проблема связана с опасностью, которую может представлять экспериментальные действия ИИ. Например, робот может испытать различные методы влажной уборки, но это, безусловно, не следует пытаться протереть гнездо с мокрой шваброй.

Наконец, последняя из проблем, связанных с изменением окружающей среды использования робота. Таким образом, робот, привыкший к работе на предприятии, она может быть небезопасной обстановки в офисе.

По словам Оле, сообщества исследователей в области машинного обучения уже обращать внимание на большинство из описанных выше проблем, но они должны делать больше работы.

Комментирование и размещение ссылок запрещено.

Комментарии закрыты.