Поиск по сайту

Профиль

    Регистрация Войти

Другие разделы

Реклама

Популярные новости

Наш опрос

    Оцените наш сайт
Mv-Games » Каталог свежих новостей » Мировые новости » Расчеты ученых показали, что управлять сверхразумным ИИ будет невозможно
Поделится ссылкой с друзьями

Плюс
Поделиться
Класс



23:40

Расчеты ученых показали, что управлять сверхразумным ИИ будет невозможно

Описание:

Об идее свержения или порабощения человечества искусственным интеллектом говорят уже много десятилетий, и в январе 2021 года ученые вынесли свой вердикт о том, сможем ли мы управлять компьютерным сверхинтеллектом высокого уровня. Ответ: почти наверняка нет.

Загвоздка в том, что для управления сверхинтеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхинтеллекта, которую мы сможем проанализировать. Но если мы не в состоянии его постичь, то создать такую симуляцию невозможно.

Такие правила, как "не причинять вреда людям", не могут быть установлены, если мы не понимаем, какие сценарии может придумать ИИ, считают авторы статьи 2021 года. Когда компьютерная система работает на уровне, превышающем возможности наших программистов, мы больше не можем устанавливать ограничения.

"Сверхинтеллект представляет собой принципиально иную проблему, чем те, которые обычно изучаются под знаменем "этики роботов", - пишут исследователи. "Это связано с тем, что сверхинтеллект многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непостижимы для человека, не говоря уже о том, чтобы их можно было контролировать".

Если мы собираемся продвигать искусственный интеллект, мы можем даже не узнать, когда появится сверхинтеллект, неподвластный нашему контролю, настолько он непостижим. Это означает, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы движемся.
 


Просмотров: 3640 | Добавил: ZamAdmin | Теги: Топ, Новости | Источник | Рейтинг: 0.0

Возможно это вам будет интересно:

Пополнение в Xbox Game Pass в феврале: Dirt 5, Code Vein, Pillars of Eternity 2 и другое

Пополнение в Xbox Game Pass в феврале: Dirt 5, Code Vein, Pillars of Eternity 2 и другое

Microsoft анонсировала очередное пополнение в Xbox Game Pass, а также назвала игры, которые скоро покинут сервис.

126
Huawei FreeBuds Pro с обновлением ПО получили улучшенную систему активного шумоподавления звука

Huawei FreeBuds Pro с обновлением ПО получили улучшенную систему активного шумоподавления звука

Компания Huawei продолжает улучшать свои топовые TWS-наушники FreeBuds Pro с помощью обновлений.

143
Xiaomi подтвердила, что выпустит в этом году смартфон Mi MIX 4 (и не только)

Xiaomi подтвердила, что выпустит в этом году смартфон Mi MIX 4 (и не только)

Компания Xiaomi, спустя два года после анонса Mi MIX 3, наконец-то готовит к выходу его преемника.

127
Disney закрывает студию Blue Sky, которая выпустила мультфильм «Ледниковый период»

Disney закрывает студию Blue Sky, которая выпустила мультфильм «Ледниковый период»

Как сообщает американское издание Deadline, корпорация The Walt Disney Company решила закрыть студию по производств...

180
Google отказалась от разработки ААА-эксклюзивов для Stadia и закрывает студии

Google отказалась от разработки ААА-эксклюзивов для Stadia и закрывает студии

Google решила пересмотреть планы на свой стриминговый сервис Google Stadia. Во время анонса заявлялось, что корпорация займется выпуско...

135
Долгожданную Biomutant выпустят уже в мае, и вы даже можете прикупить «коллекционку» за $400

Долгожданную Biomutant выпустят уже в мае, и вы даже можете прикупить «коллекционку» за $400

Разработка Biomutant затянулась, но мучительному ожиданию уже скоро придет конец. THQ Nordic и Experiment 101 объявили дату р...

184
Дождались: Samsung Galaxy A51 получил стабильную версию Android 11 с оболочкой One UI 3.0

Дождались: Samsung Galaxy A51 получил стабильную версию Android 11 с оболочкой One UI 3.0

Компания Samsung выпустила стабильную версию ОС Android 11 для одного из своих самых популярных смартфонов — Galaxy A51.

121
Конкурент RedmiBook: Realme планирует представить в этом году свой первый ноутбук

Конкурент RedmiBook: Realme планирует представить в этом году свой первый ноутбук

Согласно появившейся информации в сети, суббренд OPPO Realme планирует добавить в своё портфолио устройств новую категорию товара ...

104

Если вы являетесь автором данного материала и вы считаете что ваши права нарушены

  свяжитесь с нами




В комментариях запрещены: спам, одинаковые сообщения ко всем дополнениям, мат, оскорбления и реклама.
Наказание - пожизненный БАН без возможности просматривать новые новости на сайте!


Всего комментариев:0

Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]


Настройки сайта

Основной цвет

Основной цвет c фоном