Искусственный интеллект помогает изучить эволюцию самок

Дарвин предполагал, что самцы более разнообразны, поскольку самки выбирают партнеров по их внешности, тогда как Уоллес считал, что основным фактором р...

Исследования показали, что растительные патогены используют фаговые элементы для борьбы с бактериями

Бактериофаги, вирусы, атакующие и уничтожающие бактерии, играют важную роль в регулировании популяций микробов в природе. Новое исследование, проведен...

Технологии позволяют создавать 3D-изображения мозга с субклеточным разрешением

Наблюдение за структурами в мозге человека, независимо от их размера, всегда было мечтой нейробиологов. В новом исследовании, опубликованном в журнале...

Процесс синтеза повышает производительность перовскитных солнечных батарей до почти рыночных стандартов

Солнечная энергия не только самая быстро развивающаяся технология последних лет, но и одна из самых дешевых и эффективных в снижении выбросов парников...

Возможность в будущем подавать на обед 3D-напечатанные веганские морепродукты

В разделе холодильного магазина, посвященного веганским продуктам, альтернативные морепродукты значительно превосходят растительные варианты морепроду...

Человек не сможет управлять сверхразумным искусственным интеллектом

Новости науки14-01-2021, 23:25
Человек не сможет управлять сверхразумным искусственным интеллектомВ литературе и кинематографе уже давно идет дискуссия о взаимоотношениях сверхмощного ИИ и человека, однако ученые лишь сегодня обоснованно ответили на вопрос: сможет ли человек управлять суперинтеллектом высокого уровня. К сожалению, ответ для человечества неутешительный – нет.

Ученые Института человеческого развития им. Макса Планка представили доказательства пессимистичного прогноза. Сверхразум выходит далеко за пределы человеческого понимания. Для управления необходима его симуляция, которую человек может проанализировать. Но если человек не понимает, что же такое сверхразум, то и создать симуляцию он не сможет. Иными словами, если компьютерная система начнет работать на уровне, который превышает возможности программистов, они не смогут устанавливать ограничения, следовательно, команда «не причиняй людям вреда» может быть не выполнена.

Кроме того, суперинтеллект теоретически способен мобилизовать для достижения целей такие ресурсы, которые непонятны для людей. В этом случае человек не сможет контролировать использование этих ресурсов. Однако уже сегодня существуют машины, которые самостоятельно выполняют определенные задачи, и программисты не понимают, как они научились этому. Поэтому закономерно возникает второй вопрос: когда ИИ станет неуправляемым и опасным для человечества?


Комментарии:

Оставить комментарий

Открыты секреты лечения болезней желчног..

Желчный пузырь – небольшой полый орган пищеварительной системы в форме груши, расположенный под печенью. Собирает вырабатываемую печенью ... подробнее

Астрономы зафиксировали на видео прохожд..

9 мая самая ближайшая к Солнцу планета прошла через диск нашего светила. Это редкое явление смогли наблюдать, как астрономы-любители, так и подробнее

Как избавиться от синяков под глазами: п..

Каждый человек с детства знает, что после сильного удара на теле появляется синяк – участок кожи приобретает цвет от голубоватого до темно-л подробнее

Все замечания и пожелания присылайте на info@greenrussia.ru.
Зеленая Россия – портал для дачников России. Все права защищены и охраняются законом. © 2007 - 2024.

При использовании материалов сайта, активная ссылка на www.greenrussia.ru обязательна.