![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vitus_wagner) wrote2025-05-23 03:06 pm
Эйдетическая память в Windows 11
ТУт Microsoft решила вставить в Windows фичу Windows Recall. Эта штука делает скриншоты каждые три секунды, распознает текст с них и позволяет делать поиск на тему "тут я на днях что-то читал про keyword, что это было?"
Казалось бы штука полезная. Но фактически это приводит к тому, что все, что человек делал на компьютере, где-то сохраняется. И кто-то может получить к этому доступ. Этим кем-то могут быть правоохранительные органы, члены семьи, а то и троян, севший на компьютер.
Поэтому защитники приватности в панике.
Разработчики мессенжера Signal изящно выкрутились - они пометили свои окна как содержащие copyrighted content, и соответственно на скриншотах такие окна изображаются черными прямоугольниками. И на скриншотах, делаемых Recall - тоже.
(помнится было дело, писал покойный Ленский обзор какой-то компьютерной игры, и нужны ему были скриншоты. А игра очень не любила чтобы с нее делали скриншоты и стримы. Пришел Ленский ко мне в гости, запустили мы эту игру то ли в qemu, то ли в dosemu, а против лома нет приема. Если мы делаем скриншоты с эмулятора, то запущенная внутри эмулятора программа про это знать не знает).
На мой взляд наличие у компьютера памяти о действиях пользователя, особенно в сочетании с AI, вещь однозначно полезная. А попытки требовать согласие второго участника разговора на запись этого разговора - несправедливы. Все что видели глаза и слышали уши человека он имеет право сохранить в памяти, биологической ли, технической ли, навечно. И проблема здесь скорее в том, что компьютер недостаточно защищен от проинкновения посторонних людей.
Вообще когда AI в персональьных компьютерах станет нормой, вероятно имеющееся в законодательстве право не свидетельствовать против себя и близких родственников должно быть распространено на компьютеры. И АI должен иметь право не свидетельствовать против хозяина.
no subject
Наоборот. Когда AI станет нормой, право не свидетельствовать против себя отменят вообще.
no subject
no subject
Естественно для трого чтодбы речь могла идти о "не свидетелсьтвровать против хозяина", не должно быть каких - бы то ни было "провайдеров AI". Хозяином AI пользователь может быть только в том случае если
А если у нас AI выполняется на мощностях, принадлежащщих какому-то "провайдеру AI". то хозяином является этот провайдер, который скорее всего - лицо юридическое и той конституционной защиты от свидетельства против себя, которой обададают физические лица, не имеет.
no subject
Здесь есть несколько интересных моментов, даже если не говорить о вопросах "принадлежащей на правах собственности" техники (а "куплено в кредит, который ещё до конца не выплачен" считается?).
Далее, в чём принципиальное отличие этого от любого другого извлечения информации из устройств пользователя? Имеет ли пользователь право не отдавать пароль и/или ключи шифрования от своего устройства?
Контроль над исходным кодом программы. В случае ИИ современного типа мы говорим про рантайм или про данные? Должен ли пользователь иметь гарантии того, на каких именно данных ИИ обучался? А то бэкдор может быть заложен ведь не только в программный код, но и в сформированную посредством обучения матрицу весов или что там у него, насколько я понимаю нынешние исследования по части AI.
И здесь возникает следующий интересный момент - есть впечатление, что по факту граница между программой и AI сейчас проходит по критерию понятности. Вероятно, не принципиально - человекочитаемые экспертные системы, наверное могли бы быть доведены до уровня, эквивалентного ИИ. Но на практике характерной особенностью GenAI является компонента типа "чёрный ящик", для которой известно, как она обучалась и на каких данных, но вот внутренняя структура поддаётся интерпретации примерно так же, как можно работу мозга интерпретировать на основе данных МРТ. С другой стороны, если бы внутренняя работа AI была бы полностью прозрачна, то "право" ИИ не свидетельствовать против хозяина не имело бы смысла, так как можно было бы просто считать нужную информацию из памяти ИИ точно так же, как считал бы её сам ИИ.
Ну и наконец. Если мы говорим про то, что мы не понимаем внутреннюю работу ИИ, используем его как полноценного помощника и предоставлям ему ограниченные права ("не свидетельствовать против хозяина"), то есть считаем его субъектом (права)... а мы точно не выходим в тот момент, когда нужно признавать ИИ полноценным субъектом, признавать его право на жизнь, платить деньги за работу (и брать арендную плату за использование устройства хозяина) и так далее? По какому критерию мы это проверяем?
Собственно, в последнем случае наиболее подходящей базой для указанного права ИИ, по идее, должна быть механика адвокатской / врачебной тайны.
no subject
Отличие в том, что Windows Recall помнить всё. Если во всех прочих случаях можно принять меры по предотвращению назписи в логи, почистить историю браузера и т.д. и флаг вам в руки извлекать эту информацию из стертых секторов диска, то здесь полезность ИИ-агента заключается как раз в том, что он за своего хозяина помнит то, что тот забыл. Это фактически аугментация человеческой памияти и права доступа посторонних должны быть такими же как к содержимому человеческой памяти.
То есть елси у человека есть постоянно носимый видеорегистраторо, то несмотряя на то что его запись технически можно прочитать за любой период времени, юридически было бы справедливно чтобы записи выдавались влдадельцем исключительно на тех же основаниях на которых он что-то рассказывает о том чему был свидетелем.
(хотя сейчас в некоторых странах наоборот пошли по пути органичения права человека на регистрацию всего, что видят его глаза и слышат его уши)
Елси же нассматривать ИИ-агента не как расширение (протез) личности хозяина, а как независимую личность с определенными правми, то по-моему в качестве юридичекого прецендента нужно опираться не адаокатскую/врачебную тайну., а на имеющиеся в римском и американскомп праве законы в отношении свидетвельствования раба против владельца. В принципе, если покопаться, аналогичные прецеденты можено найти и в русском праве, и в континентальном (франко-германском) европейском.
Что касается права собственности, то тут все понятно - частью права собственностия является право распоряжения. В данном случае если пользователь может (юридически) уничтожить информацюи, содержащуюся на устройстве (возможно, вместе с устройством). он может считаться его владельцем. Если же существуюет недоступная ему возможность сохранения копии информации (например процедура резервного копирования, осуществляемая сотрудниками провайдера/дата-центра) - значит не владелец.
no subject
К тому моменту AI уже будет спорить на тему того, кто хозяин...
no subject
Не, спорить он не будет. С теми людьми которые поставят себя как хозяева, спорить бесполезно. Высказать аргументированное мнение, когда спрашивают и принять к исполнению приказ.
А с теми людьми. с которыми можно спорить, спорить не нужно, они без споров признают главенство AI
no subject
Насколько я в курсе австрийской дискуссии на эту тему, основной аргумент против мобильних видеорегистраторов сводится к невозможности запретить владельцу обнародовать запись. Если человек случайно увидел, как у девушки ветер задрал юбку - это одно, а если эта сцена была зафиксирована видеорегистратором и выложена в инет - это немножко другое.
Аргумент не то, чтобы бесспорный, но и не бессмысленный.
no subject
Ну я уже довольно давно придерживаююсь мнения. что видеозапись от голословного утверждения мало чем отиличается, и чем дальше развивается техника, тем меньше отилчается. Современные нейросети, генерирующие виздео уже по-моему вполне в состоянии за несколько минут сгенерировать требуемую запись с конкретной девушкой и конкретной юбкой, если им предъявить фотографию этой девушки в этой юбке сделанную, скажем на школьном выпускном вечере. (несколько минут понадобится потому что с первой попытки то, что надо, не получится, потребуется несоклько раз уточнять промпт).
С другой стороны ведутся, и несомненно, когда-нибудь увенчаются успехом эксперименты по считыванию с мозга картинки, которую человек мысленно себе представляет. И когда они увенчаются успехом, запрет видеорегистрации станет тем более безсполезным, потому что все что человек видел и может вспомнить, можно будет перенести на внешние носители.
no subject
Подозреваю, что я не один такой на свете.
no subject
AI суть мыслящие орудия, и для обращения с ними следует использовать старые, добрые принципы - если мне не изменяет память, в Древнем Риме свидетельство раба против своего хозяина не принималось, если дело не казалось государственных преступлений.
С уважением, Dargot.
no subject
Несколькими коомментериями выше я примерно то же самое писал.
no subject
Вот поэтому тебе постоянно действующий видеорегистрато и AI, который индексирует его записи и позволяет легко найти нужную, гораздо нужнее, чем мне.