Поиск по сайту
Профиль
Меню свежих новостей
Другие разделы
Реклама
Популярные новости
Категория: Мировые новости
Категория: Мировые новости
Категория: Новости на тему гаджеты
Категория: Мировые новости
Категория: Мировые новости
Категория: Мировые новости
Категория: Мировые новости
Наш опрос
Mv-Games » Каталог свежих новостей » Мировые новости » Расчеты ученых показали, что управлять сверхразумным ИИ будет невозможно
23:40
Расчеты ученых показали, что управлять сверхразумным ИИ будет невозможно |
Описание:Об идее свержения или порабощения человечества искусственным интеллектом говорят уже много десятилетий, и в январе 2021 года ученые вынесли свой вердикт о том, сможем ли мы управлять компьютерным сверхинтеллектом высокого уровня. Ответ: почти наверняка нет.Загвоздка в том, что для управления сверхинтеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхинтеллекта, которую мы сможем проанализировать. Но если мы не в состоянии его постичь, то создать такую симуляцию невозможно. Такие правила, как "не причинять вреда людям", не могут быть установлены, если мы не понимаем, какие сценарии может придумать ИИ, считают авторы статьи 2021 года. Когда компьютерная система работает на уровне, превышающем возможности наших программистов, мы больше не можем устанавливать ограничения. "Сверхинтеллект представляет собой принципиально иную проблему, чем те, которые обычно изучаются под знаменем "этики роботов", - пишут исследователи. "Это связано с тем, что сверхинтеллект многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непостижимы для человека, не говоря уже о том, чтобы их можно было контролировать". Если мы собираемся продвигать искусственный интеллект, мы можем даже не узнать, когда появится сверхинтеллект, неподвластный нашему контролю, настолько он непостижим. Это означает, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы движемся. |
|
|
Возможно это вам будет интересно:
Если вы являетесь автором данного материала и вы считаете что ваши права нарушены
В комментариях запрещены: спам, одинаковые сообщения ко всем дополнениям, мат, оскорбления и реклама.
Наказание - пожизненный БАН без возможности просматривать новые новости на сайте!
Наказание - пожизненный БАН без возможности просматривать новые новости на сайте!