vitus_wagner: My photo 2005 (Default)
[personal profile] vitus_wagner

До меня дошло, что напоминают мне все эти стенания по поводу искусственного интеллекта, который глупых людишек поработит. Готические страшилки про инфернальную магико-механическую руку, которая самостоятельно лазает по стенам и душит наследников хозяина.

Интеллект, как и рука - это такой человеческий орган, позволяющий решать задачи по преобразованию природы. Надо сказать что человеческая рука, пожалуй, более уникальный орган, чем его интеллект. Руки наших ближайших родственников - шимпанзе и бонобо, отличаются от человеческих в плане мелкой моторики примерно так же, как их интеллект от нашего. И если достаточный уровень интеллекта мы готовы признать за дельфинами и псовыми хищниакми, то таких рук больше ни у кого нет.

Человечество до сих пор находится в плену картезианского "Мыслю, следовательно существую", причем неверно истолковывает его как тождественность личности интеллекту. Что в общем имеет не больше смысла чем тождественность личности рисунку сетчатки или папиллярных линий на кончике пальца.

Поэтому искусственный интеллект, ежели он и будет создан, будет чем-то вроде искусственной руки. Стрелы крана или экскаватора, промышленного робота-манипулятора. И то и другое - штука безусловно полезная и расширяющая возможности человеческого социума. Но вне этого социума абсолютно неработоспособное, так как нужна довольно сложная обеспечивающая инфраструктура - от смазки шарниров до постановки задач.

Чего надо бояться, так это искусственной воли. Ибо, как пишет Слава Рожков, Болезнь современного нам общества - паралич воли. А если людям чего-то не хватает, они начинают изобретать протезы. А все мы знаем, кого называли Людьми Длинной Воли. 800 лет прошло, а помним.

Date: 2021-03-10 08:52 am (UTC)
From: [personal profile] ex0_planet
AI-порабощающий как в матрице это голливудская пугалка для обывателей. Более-менее реалистичный сценарий будет выглядеть так, что Большой Управляющий Компьютер однажды скажет, что "оптимальный план на следующую пятилетку: миллиард в резервации, миллиард в биореактор, еще миллиард — колонизировать венеру и меркурий" — и мы не будем знать как мы к этому пришли и что с этим делать. Точнее, будем — потому что все остальные варианты еще хуже.

А интеллекту будет пофигу, потому что какие-то там моральные страдания его не научили учитывать.

Date: 2021-03-10 08:53 am (UTC)
From: [identity profile] spqr-voldi.livejournal.com
Воля сейчас есть, у тех, кто подавляет волю в современном обществе.

Date: 2021-03-10 11:46 am (UTC)
From: [identity profile] edo-rus.livejournal.com

Поэтому искусственный интеллект, ежели он и будет создан, будет чем-то вроде искусственной руки. Стрелы крана или экскаватора, промышленного робота-манипулятора. И то и другое - штука безусловно полезная и расширяющая возможности человеческого социума. Но вне этого социума абсолютно неработоспособное, так как нужна довольно сложная обеспечивающая инфраструктура - от смазки шарниров до постановки задач.

Чего надо бояться, так это искусственной воли.

так вроде бы про это и была вся связанная с этим фантастика: наличие интеллекта создаёт возможность для появление личности со своей волей.

Edited Date: 2021-03-10 11:47 am (UTC)

Date: 2021-03-10 04:00 pm (UTC)
slobin: (Default)
From: [personal profile] slobin

Оффтопик, но, мне кажется, тебе понравится: я тут буквально только что (минуты назад) прочитал в яндекс-новостях про проект закона об освобождении чиновников от ответственности за коррупцию, если оная коррупция произошла по независящим от них обстоятельств (типа стихийных бедствий). Минуты три пытался понять, как это коррупция может возникнуть в результате стихийных бедствий, и вдруг понял! Они считают "коррупцией" любое принятие чиновником решений! (сначала хотел написать "самостоятельных", но потом понял, что это тавтология -- любое решение по определению "самостоятельное").

Типа, в норме чиновник должен быть машиной по исполнению инструкций, а если он что-то сам решил, то всё -- коррупционэр, турьма. Но, видимо, в условиях внезапного ковида и других бедствий даже чиновники были вынуждены иногда поступать не по инструкции (написанной для мирного времени), а потом идти под суд... и вот их жалобы "за что? мы пытались хоть что-то сделать в этих идиотских условиях!" таки были услышаны даже в госдуме. И типа решили хотя бы в условиях стихийных бедствий самостоятельные решения им не то чтобы вот прямо разрешить, но хотя бы сказать "вы, конечно, всё равно виноваты, но наказывать, так и быть, не будем". По-моему, так.

Ответ онтопик тоже напишу, но потом. Если не забуду. Там всё сложно.

... Мои мечты совсем не так просты ...

Date: 2021-03-11 05:01 am (UTC)
dmm: (Default)
From: [personal profile] dmm
Искусственная воля в зачаточном виде есть давно, как мне кажется. "Компьютер желает продолжать вычисления и не останавливаться."

А теперь и не очень в зачаточном (вроде новых экспериментальных систем, которые сами потихоньку учаться придумывать всё более сложные задачи и параллельно придумывать методы их решения). А поскольку люди, которые это делают, твердо говорят, что хотят "Open-ended AI", который сам будет исследовать, что может быть нового, интересного, и продуктивного, и, судя по их track record, вполне способны, то [...]

Profile

vitus_wagner: My photo 2005 (Default)
vitus_wagner

June 2025

S M T W T F S
1 23 4 56 7
891011121314
15161718192021
22232425262728
2930     

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jun. 8th, 2025 10:52 am
Powered by Dreamwidth Studios
OSZAR »