Поиск по сайту

Профиль

    Регистрация Войти

Другие разделы

Реклама

Популярные новости

Наш опрос

    Оцените наш сайт
Mv-Games » Каталог свежих новостей » Мировые новости » Расчеты ученых показали, что управлять сверхразумным ИИ будет невозможно
Поделится ссылкой с друзьями

Плюс
Поделиться
Класс



23:40

Расчеты ученых показали, что управлять сверхразумным ИИ будет невозможно

Описание:

Об идее свержения или порабощения человечества искусственным интеллектом говорят уже много десятилетий, и в январе 2021 года ученые вынесли свой вердикт о том, сможем ли мы управлять компьютерным сверхинтеллектом высокого уровня. Ответ: почти наверняка нет.

Загвоздка в том, что для управления сверхинтеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхинтеллекта, которую мы сможем проанализировать. Но если мы не в состоянии его постичь, то создать такую симуляцию невозможно.

Такие правила, как "не причинять вреда людям", не могут быть установлены, если мы не понимаем, какие сценарии может придумать ИИ, считают авторы статьи 2021 года. Когда компьютерная система работает на уровне, превышающем возможности наших программистов, мы больше не можем устанавливать ограничения.

"Сверхинтеллект представляет собой принципиально иную проблему, чем те, которые обычно изучаются под знаменем "этики роботов", - пишут исследователи. "Это связано с тем, что сверхинтеллект многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непостижимы для человека, не говоря уже о том, чтобы их можно было контролировать".

Если мы собираемся продвигать искусственный интеллект, мы можем даже не узнать, когда появится сверхинтеллект, неподвластный нашему контролю, настолько он непостижим. Это означает, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы движемся.
 


Просмотров: 3641 | Добавил: ZamAdmin | Теги: Топ, Новости | Источник | Рейтинг: 0.0

Возможно это вам будет интересно:

Качественные рендеры OnePlus 9 Pro: «дырявый» дисплей с загнутыми краями и квадро-камера Hasselblad

Качественные рендеры OnePlus 9 Pro: «дырявый» дисплей с загнутыми краями и квадро-камера Hasselblad

Популярный концепт-дизайнер Бен Гескин (Ben Geskin) создал на основе последних утечек рендеры флагманского смартфона OnePlus 9 Pro.

137
Разработчики World of Tanks назвали самое популярное «железо» среди танкистов

Разработчики World of Tanks назвали самое популярное «железо» среди танкистов

Разработчики World of Tanks постоянно оптимизируют игру, чтобы любой игрок с РС любой мощности мог запустить «танки». Так к...

149
Spotify сможет понимать настроение и эмоции пользователя, чтобы рекомендовать подходящую музыку (но это не точно)

Spotify сможет понимать настроение и эмоции пользователя, чтобы рекомендовать подходящую музыку (но это не точно)

Spotify запатентовал интересную технологию, которая призвана улучшить индивидуальные плейлисты пользователей.

161
Xiaomi Mi 10T и Xiaomi 10T Pro начали обновляться до Android 11: что нового и когда ждать прошивку

Xiaomi Mi 10T и Xiaomi 10T Pro начали обновляться до Android 11: что нового и когда ждать прошивку

Компания Xiaomi выпустила обновление Android 11 для ещё нескольких смартфонов.

119
Флагман Motorola Edge S получит десктопный режим и выйдет за пределами Китая, как Moto G100

Флагман Motorola Edge S получит десктопный режим и выйдет за пределами Китая, как Moto G100

Компания Motorola должна представить сегодня в Китае флагманский смартфон Edge S. Как оказалось, новинка выйдет на ...

97
Инсайдер: ZTE Axon 30 Pro может первым получит датчик Samsung на 200 МП

Инсайдер: ZTE Axon 30 Pro может первым получит датчик Samsung на 200 МП

В начале этого месяца в сети появилась информация, что компания Samsung готовит к выходу первый в мире датчик камеры с разрешением 200 ...

126
Tesla заработала на биткоинах больше, чем от продаж электрокаров за весь прошлый год

Tesla заработала на биткоинах больше, чем от продаж электрокаров за весь прошлый год

31 января представители Tesla заявили, что компания инвестировала в главную криптовалюту, купив биткоинов на 1,5 миллиарда долларов. Пр...

145
JioPhone Next: «самый дешевый 4G-смартфон в мире», разработанный в сотрудничестве с Google

JioPhone Next: «самый дешевый 4G-смартфон в мире», разработанный в сотрудничестве с Google

Индийская компания Jio Platforms в сотрудничестве с Google представила смартфон JioPhone Next.

156

Если вы являетесь автором данного материала и вы считаете что ваши права нарушены

  свяжитесь с нами




В комментариях запрещены: спам, одинаковые сообщения ко всем дополнениям, мат, оскорбления и реклама.
Наказание - пожизненный БАН без возможности просматривать новые новости на сайте!


Всего комментариев:0

Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]


Настройки сайта

Основной цвет

Основной цвет c фоном