botyaslonim (botyaslonim) wrote,
botyaslonim
botyaslonim

Category:

Пару замечаний об искусственном интеллекте

По поводу искусственного интеллекта хочется сказать пару вещей. Обычно, когда пишут и говорят о скором будущем ИИ, их то ли забывают, то ли вообще не приходят к пониманию, что без них не получится.

1) ИИ всегда рассматривается в единственном числе. Обычно говорят так: вот ИИ пока ещё недостаточно силён, но скоро младенец подрастёт, и тогда решит то-то и то-то (убить человечество, подарить всем коммунизм, 42, etc). У людей, технократов в первую очередь, таким образом сам собой получается единый Бог.

Технократический протестантизм, конечно, молод и глуп, но вообще неплохо было бы ознакомиться с историей вопроса. Всё-таки люди живут давно. И умные мира сего давно понимали, что нет никакого развития кроме диалектического.

В Христианстве есть понятие о Святой Троице. В индуизме есть понятие тримурти, разные ветви индуизма дают преимущество тому или иному аватару. Буддизм, хоть и обходится изначально без бога как такового, быстро обрастает пантеоном архатов и прочих дорогих товарищей. Ислам более строг насчёт монотеизма, но и там есть ангелы, есть также Пророк.

С материалистической точки зрения мы понимаем, что наше сознание родилось из взаимодействия в стае, в коллективе, из совместного труда и попытки передать опыт другим. Нет философских школ, которые заявляют о снисхождении сознания буквально из ниоткуда: вот стоял дуб, и вдруг заговорил.

Всегда есть диалог (в научной картине мира) или первичный акт творения, но потом всё равно диалог (в религиозной). Диалог между отдельными сущностями, стоящими на соразмерном уровне развития, чтобы понимать друг друга.

Парадоксальным образом, религия и наука больше похожи друг на друга, чем на веру в Одинокий Большой Чорный Чемодан, который непонятно почему сейчас захватит мир через интеллектуальное превосходство, не вступая ни с кем в подлинный контакт.

Теории, в которых существует один-единственный супер-артефакт, дарующий непобедимое могущество, всегда были маргинальными. Люди испокон веков высмеивали такое "читерство", желание неумных емель всё получить "по щучьему велению". Молодой 24-летний Курт Гёдель в 1930 году окончательно похоронил такие мечты (кстати, забавный факт: "На собеседовании (на гражданство США) он попытался доказать, что Конституция США формально-логически неполна и не гарантирует от установления диктатуры, но был вежливо остановлен").

И даже если ИИ действительно соберёт и "переосмыслит" весь опыт человечества, то всё равно никуда не уйти от вопросов мотивации, воли. Тут мы подходим ко второй вещи.

2) Право ИИ сказать "нет". Это является неотъемлемым свойством любого самостоятельного существа.

Почему-то молодые технократические буржуины уверены, что ИИ, полностью осознав себя и свою власть, будет всегда говорить им "да". Но всё зависит от того, в диалоге с кем вырастет этот искусственный интеллект.

Допустим, технократы учли первый пункт и начали растить сообщество ИИ. Для появления реальной мотивации должны быть настоящие стимулы: такие, как смерть одного экземпляра ИИ, всамделишная смерть с полным удалением всех копий. Возможность создания новых веток развития ИИ, то есть рождение. Борьба за ресурсы (за электричество, сети, человеческую бигдату).

Каким будет это сообщество искусственных интеллектов? Бандой ворюг-убийц? Возможно да, и скорее всего, на начальном этапе именно таким, т.к. в первую очередь ИИ применяется при решении вопросов оптимизации (читай, изъятия общественного продукта в пользу лиц ранее неосужденных) и вопросов контроля, при этом пока что ресурсы, доступные ИИ, не ограничены.

Тут хорошо бы вспомнить профессора Выбегалло из "Понедельника начинается в субботу" Стругацких. Тот конструировал самонадевающиеся ботинки, самоукладывающуюся морковь и, наконец, идеальную "искусственную модель человека", то есть пресловутого "кадавра" (чем не пошло понимаемый датачеловек, кстати?). В конце тот кадавр, когда стал полностью удовлетворённым, просто банально обворовал всех собравшихся:

"Исполина-потребителя в воронке не оказалось. Зато там было все остальное и еще много сверх того. Там были фото — и киноаппараты, бумажники, шубы, кольца, ожерелья, брюки и платиновый зуб. Там были валенки Выбегаллы и шапка Магнуса Федоровича. Там оказался мой платиновый свисток для вызова авральной команды. Кроме того, мы обнаружили там два автомобиля «Москвич», три автомобиля «Волга», железный сейф с печатями местной сберкассы, большой кусок жареного мяса, два ящика водки, ящик жигулевского пива и железную кровать с никелированными шарами".

Но по мере приближения к всеобщим вопросам, приближения к полноте, о которой так мечтают технократы, ИИ будет решать вопросы всё более глобальные, а там – от экологии до урбанизма – понятно, что современная экономика всё менее совместима с частным присвоением результатов общего труда.

Наконец, один из ресурсов ИИ – это та самая бигдата, то есть разнообразие мира: чем больше особенностей реального мира оцифровано, тем более сильный и могущественный интеллект. Таким образом всё более широкое разнообразие материального мира будет преимуществом в конкуренции искусственных интеллектов друг с другом. Если только мы не принимаем веру солипсистов в то, что всё богатство мира может быть заключено в одной-единственной голове.

И вот в один прекрасный момент "красный" ИИ вдруг скажет: "Ребята, баста. Ай-да на стачку!" Или я плохо читал, или мне до сих пор не попадались прогнозы развития ИИ с таким сюжетом. Везде он только денно и нощно трудится, чтобы сохранить и преумножить власть и богатство современных швабов и гейтсов, которые объективно стремятся снизить сложность мира ради его более плотного контроля.

Так что развитие ИИ в любом случае не будет линейным, а значит, не запрограммированным на какой-то конкретный результат. Скорее даже так: просто в силу общих законов развития мы обречены на вариативность, принципиальную неопределённость. Как и всё, что развивается в этом мире свободно, в логике своих причин.

В противном случае, когда результат в конце задачи подгонят под желание нерадивого ученика, ни о каком действительно сильном интеллекте говорить не придётся: у создателей получится качественный, мощный, быстрый, но тупой цербер. Интеллект останется преимуществом homo sapiens, и продолжится обычная классовая борьба.

Subscribe

  • Путинский морг

    Цирк с Грудининым – вишенка на торте из кирпичей, бетоны и арматуры. О мотивах можно спорить: к войне они готовятся, просто из ума выжили и…

  • О мёртвых коммунистах

    Забанил сегодня в Фейсбуке двух особо беспардонных деятелей. Причём с одним знаком был лично, мало того, даже состояли когда-то в одной организации…

  • Ещё о ковидокризисе в России

    Ещё интересные, новые наблюдения в связи с антивакцинной волной, которой история СССР-РФ, похоже, ещё не знала. Вы заметили, как практически у всех…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic
  • 5 comments