Эйдетическая память в Windows 11
May. 23rd, 2025 03:06 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vitus_wagnerТУт Microsoft решила вставить в Windows фичу Windows Recall. Эта штука делает скриншоты каждые три секунды, распознает текст с них и позволяет делать поиск на тему "тут я на днях что-то читал про keyword, что это было?"
Казалось бы штука полезная. Но фактически это приводит к тому, что все, что человек делал на компьютере, где-то сохраняется. И кто-то может получить к этому доступ. Этим кем-то могут быть правоохранительные органы, члены семьи, а то и троян, севший на компьютер.
Поэтому защитники приватности в панике.
Разработчики мессенжера Signal изящно выкрутились - они пометили свои окна как содержащие copyrighted content, и соответственно на скриншотах такие окна изображаются черными прямоугольниками. И на скриншотах, делаемых Recall - тоже.
(помнится было дело, писал покойный Ленский обзор какой-то компьютерной игры, и нужны ему были скриншоты. А игра очень не любила чтобы с нее делали скриншоты и стримы. Пришел Ленский ко мне в гости, запустили мы эту игру то ли в qemu, то ли в dosemu, а против лома нет приема. Если мы делаем скриншоты с эмулятора, то запущенная внутри эмулятора программа про это знать не знает).
На мой взляд наличие у компьютера памяти о действиях пользователя, особенно в сочетании с AI, вещь однозначно полезная. А попытки требовать согласие второго участника разговора на запись этого разговора - несправедливы. Все что видели глаза и слышали уши человека он имеет право сохранить в памяти, биологической ли, технической ли, навечно. И проблема здесь скорее в том, что компьютер недостаточно защищен от проинкновения посторонних людей.
Вообще когда AI в персональьных компьютерах станет нормой, вероятно имеющееся в законодательстве право не свидетельствовать против себя и близких родственников должно быть распространено на компьютеры. И АI должен иметь право не свидетельствовать против хозяина.
no subject
Date: 2025-05-23 12:36 pm (UTC)Наоборот. Когда AI станет нормой, право не свидетельствовать против себя отменят вообще.
no subject
Date: 2025-05-23 05:06 pm (UTC)no subject
Date: 2025-05-23 05:24 pm (UTC)Естественно для трого чтодбы речь могла идти о "не свидетелсьтвровать против хозяина", не должно быть каких - бы то ни было "провайдеров AI". Хозяином AI пользователь может быть только в том случае если
А если у нас AI выполняется на мощностях, принадлежащщих какому-то "провайдеру AI". то хозяином является этот провайдер, который скорее всего - лицо юридическое и той конституционной защиты от свидетельства против себя, которой обададают физические лица, не имеет.
no subject
Date: 2025-05-23 06:00 pm (UTC)Здесь есть несколько интересных моментов, даже если не говорить о вопросах "принадлежащей на правах собственности" техники (а "куплено в кредит, который ещё до конца не выплачен" считается?).
Далее, в чём принципиальное отличие этого от любого другого извлечения информации из устройств пользователя? Имеет ли пользователь право не отдавать пароль и/или ключи шифрования от своего устройства?
Контроль над исходным кодом программы. В случае ИИ современного типа мы говорим про рантайм или про данные? Должен ли пользователь иметь гарантии того, на каких именно данных ИИ обучался? А то бэкдор может быть заложен ведь не только в программный код, но и в сформированную посредством обучения матрицу весов или что там у него, насколько я понимаю нынешние исследования по части AI.
И здесь возникает следующий интересный момент - есть впечатление, что по факту граница между программой и AI сейчас проходит по критерию понятности. Вероятно, не принципиально - человекочитаемые экспертные системы, наверное могли бы быть доведены до уровня, эквивалентного ИИ. Но на практике характерной особенностью GenAI является компонента типа "чёрный ящик", для которой известно, как она обучалась и на каких данных, но вот внутренняя структура поддаётся интерпретации примерно так же, как можно работу мозга интерпретировать на основе данных МРТ. С другой стороны, если бы внутренняя работа AI была бы полностью прозрачна, то "право" ИИ не свидетельствовать против хозяина не имело бы смысла, так как можно было бы просто считать нужную информацию из памяти ИИ точно так же, как считал бы её сам ИИ.
Ну и наконец. Если мы говорим про то, что мы не понимаем внутреннюю работу ИИ, используем его как полноценного помощника и предоставлям ему ограниченные права ("не свидетельствовать против хозяина"), то есть считаем его субъектом (права)... а мы точно не выходим в тот момент, когда нужно признавать ИИ полноценным субъектом, признавать его право на жизнь, платить деньги за работу (и брать арендную плату за использование устройства хозяина) и так далее? По какому критерию мы это проверяем?
Собственно, в последнем случае наиболее подходящей базой для указанного права ИИ, по идее, должна быть механика адвокатской / врачебной тайны.
no subject
Date: 2025-05-23 07:15 pm (UTC)Отличие в том, что Windows Recall помнить всё. Если во всех прочих случаях можно принять меры по предотвращению назписи в логи, почистить историю браузера и т.д. и флаг вам в руки извлекать эту информацию из стертых секторов диска, то здесь полезность ИИ-агента заключается как раз в том, что он за своего хозяина помнит то, что тот забыл. Это фактически аугментация человеческой памияти и права доступа посторонних должны быть такими же как к содержимому человеческой памяти.
То есть елси у человека есть постоянно носимый видеорегистраторо, то несмотряя на то что его запись технически можно прочитать за любой период времени, юридически было бы справедливно чтобы записи выдавались влдадельцем исключительно на тех же основаниях на которых он что-то рассказывает о том чему был свидетелем.
(хотя сейчас в некоторых странах наоборот пошли по пути органичения права человека на регистрацию всего, что видят его глаза и слышат его уши)
Елси же нассматривать ИИ-агента не как расширение (протез) личности хозяина, а как независимую личность с определенными правми, то по-моему в качестве юридичекого прецендента нужно опираться не адаокатскую/врачебную тайну., а на имеющиеся в римском и американскомп праве законы в отношении свидетвельствования раба против владельца. В принципе, если покопаться, аналогичные прецеденты можено найти и в русском праве, и в континентальном (франко-германском) европейском.
Что касается права собственности, то тут все понятно - частью права собственностия является право распоряжения. В данном случае если пользователь может (юридически) уничтожить информацюи, содержащуюся на устройстве (возможно, вместе с устройством). он может считаться его владельцем. Если же существуюет недоступная ему возможность сохранения копии информации (например процедура резервного копирования, осуществляемая сотрудниками провайдера/дата-центра) - значит не владелец.
no subject
Date: 2025-05-24 05:00 am (UTC)К тому моменту AI уже будет спорить на тему того, кто хозяин...
no subject
Date: 2025-05-24 08:35 am (UTC)Не, спорить он не будет. С теми людьми которые поставят себя как хозяева, спорить бесполезно. Высказать аргументированное мнение, когда спрашивают и принять к исполнению приказ.
А с теми людьми. с которыми можно спорить, спорить не нужно, они без споров признают главенство AI