Неполиткорректный виртуал (pascendi) wrote,
Неполиткорректный виртуал
pascendi

Category:

К рассуждениям об искусственном интеллекте

Тут на АТ пошли очередные расплывчатые рассуждения об искусственном интеллекте (со ссылкой на статью в Journal of Artificial Intelligence Research, пропущенную через гуглоперевод и мозги, если так можно выразиться, журналистки Виктории Ветровой). Обсуждался вопрос: сможем ли мы контролировать высокоуровневый компьютерный супер-интеллект?

Как давеча написали на Баше, "никакой искусственный интеллект не может решить проблемы, вызванные недостатком естественного".

Все философские рассуждения об ИИ страдают одним и тем же недостатком: практически ни один человек, который ими занимается, сам с ИИ не работал. Поэтому рассуждающие имеют представление об ИИ из таких же рассуждений и фантастических романов, где ИИ антропоморфен до отвращения. Фактически же ИИ никакой не интеллект, а некие программные продукты, обладающие свойством обучаться и выдавать пользователям результаты без объяснения того, как они получены.

Антропоморфизм описываемых сейчас всяческими философами и фантастами ИИ заключается в том, что им приписывается наличие эмоций и формирование решений по человеческому типу (включая участие в этом процессе инстинктов и рефлексов). Фактически же ИИ не антропоморфен уже сейчас, механизмы формирования выводов и принятия решений у него принципиально отличаются от человеческих.

Чтобы получить тот самый антропоморфизм, надо всерьез заниматься дополнением механизмов работы ИИ эмоциональной составляющей, учетом инстинктов и выработкой рефлексов (а из всего этого реалистично только последнее: обучение ИИ в известной степени и есть выработка рефлексов.) Это возможно, только если этим будут специально заниматься.

Пока же соцвласть ИИ может быть только на уровне подсчета баллов социального капитала и реализации машины выводов для изучения доказательств в судебном процессе (причем второе с о-очень большой натяжкой). И никто даже не изучает, ЧТО ИМЕННО надо добавлять к ИИ, чтобы его можно было использовать в социальной сфере.

Прежде всего это касается таких понятий как "справедливость", "милосердие", "гуманизм", "общественное благо" (и его соотнесения с благом индивидуальной личности). Все эти понятия в той или иной степени основаны на общем представлении о "благе" (что такое хорошо и что такое плохо), а оно даже у человечества весьма размыто и непостоянно. Подробнее я писал уже здесь несколько лет назад.

Так что ИИ может стать "неконтролируемым и опасным для человечества" исключительно в руках людей, которые не понимают, что это такое на самом деле, как это устроено, как и где это можно применять и где ограничения и условия, в которых это применять либо бессмысленно, либо вредно. Перенесено из Dreamwidth.
Subscribe

  • Об организме кошки

    Чего не хватает в организме у кошки, которая повадилась отрывать кусочки хлопчатобумажной наволочки и есть их? Перенесено из Dreamwidth.

  • Бежит время

    Я опять пропустил знаменательную дату 4 апреля, когда исполнилось 16 лет моему первому посту в ЖЖ.

  • О редакторах

    ... она была из тех редакторов, которые правят "боевое слаживание" на "боевое складывание"... .. Перенесено из Dreamwidth.

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 10 comments

  • Об организме кошки

    Чего не хватает в организме у кошки, которая повадилась отрывать кусочки хлопчатобумажной наволочки и есть их? Перенесено из Dreamwidth.

  • Бежит время

    Я опять пропустил знаменательную дату 4 апреля, когда исполнилось 16 лет моему первому посту в ЖЖ.

  • О редакторах

    ... она была из тех редакторов, которые правят "боевое слаживание" на "боевое складывание"... .. Перенесено из Dreamwidth.