Экзистенциальный риск, Хоркхаймер и скучная научная фантастика

Когда я читаю в социальных сетях или медиа очередные рассуждения о том, чем нам грозит искусственный интеллект "в ближайшем будущем" – чаще всего, это картина ИИ как экзистенциального риска для долгосрочного человеческого существования как вида – то я думаю о силе и слабости научной фантастики, способности спекулировать о будущем. Миллионеры и миллиардеры, имеющие непосредственные экономическые и политические ставки в создании таких технологий, такие истории о машинном апокалипсисе особенно любят. Подобные представления часто выстроены вокруг идеи, что в какой-то момент искусственный интеллект достигнет степени самоосознания, что случится нечто ужасное.

В таких разговор об ИИ как экзистенциальном риске есть нечто волнующее и фантастические, в воображении откликаются сюжеты множества голливудских фильмов и научно-фантастических книжек. Однако у такой спекуляции есть своя цена. Возможности воображать альтернативные версии будущего в социальных и гуманитарных науках отводится традиционно высокая роль – в таких практиках часто принято обнаруживать утопический потенциал. Однако теоретик Макс Хоркхаймер был не согласен со своими коллегами по Франкфуртской школе, например, Гербертом Маркузе, касательно политической роли воображения. На его взгляд, человеческая способность обращаться к будущему фундаментально реактивна (и, в каком-то смысле, политически консервативна), ведь в этом процессе настоящее скорее человека удерживает, нежели чем отпускает.

И пока наши истории об искусственном интеллекте вращаются вокруг раздумий о грядущем в отложенном будущем экзистенциальном риске, проблемы здесь и сейчас откладываются на неопределенный срок. А таких проблем достаточно – от предвзятостей и умножения неравенства до эффектов на окружающую среду. Я, признаюсь, не так много читал научной фантастики, но для меня она, прежде всего, в своем технологическом аспекте связана с попытками представить какие-то небывалыми изобретениями. Но, как искрометно заметил однажды Дэвид Грэбер, где же ваши летающие автомобили? Мне было бы очень интересно почитать какую-нибудь скучную научную фантастику – не ту, где на первый план выходят летающие автомобили и неизведанные проблемы, а истории о том, где технологии совсем не фантастическим (а скорее уж очень скучным) образом помогают справиться с проблемами, что есть сейчас.

​​В Королевском колледже Лондона оказывается есть такой проект Creative AI Lab. У них вот есть красивый сайт, на котором каталогизированы всякие приложения искусственного интеллекта, которые могут пригодиться художникам. Также на сайте есть и другие ресурсы – статьи, эссе, подкасты, курсы, и так далее. В общем выглядит это все как кладезь для тех, кто хочет делать что-то вокруг искусственого интеллекта и искусства, может и кому-то из вас, дорогие читатели, такое будет интересно и нужно.

По этому поводу вспомнил ещё пару ссылок. Во-первых, это выложенный полностью в открытый доступ курс Эрика Сальваджо про изображения и искусственный интеллект. Я сам курс не смотрел пока, но по другим текстам Эрика могу сказать, что у него как-то чутко выходит совмещать культурологический и технологический подходы в своем анализе, так что целый курс от него по этой теме выглядит захватывающе. Во-вторых, исследовательница Мел Хоган здесь собрала проекты художников, которые различным способами осмысляют цифровые инфраструктуры облачных технологий. Когда посмотрел ещё раз на этот список, то понял, что там нет, как минимум, достаточно подходящей работы "Пикник у дата-центра" группы eeefff.

В новом выпуске журнала "Фольклор и антропология города" вышло моё интервью с антропологом Ником Сивером, чему я очень рад. Наш разговор был несколько лет назад, но я до сих пор его помню, потому что Ник тогда поразил меня своей интеллектуальной чуткостью к деталям и антропологическим воображением. В нашей беседе мы обсуждаем меняющиеся отношения между человеческим и технологическим, место антропологии в научных и общественных дискуссиях, методе, алгоритмах музыкальных систем, контексте и интерпретируемости в машинном обучении. С момента интервью уже вышла книга Ника "Computing Taste", уверен, что она настолько же славная, как и его статьи. С ним ещё про эту книгу можно послушать хороший подкаст здесь.
В выпуске журнала ещё много отличных статей, посмотрите их обязательно тоже, если цифровая этнография и все вокруг вам небезразлична.

Дорогие коллеги и друзья, мы рады сообщить, что долгожданный выпуск журнала «Цифровая этнография» вышел и уже доступен на сайте. Благодарим всех авторов за участие, терпение и работу над текстами, и низкий поклон Полине Колозариди — за составление и редактуру.

Номер посвящен принципам работы в цифровом поле: как метафоры помогают (или мешают) его концептуализировать? Стоит ли искать в интернете сообщества, или это понятие нужно переосмыслить? В этом номере мы публикуем статьи авторов, использующих очень разные подходы к цифровой этнографии для анализа своих кейсов. Дарья Рудь исследует онлайн-сообщества, сфокусированные на практиках памяти, через призму концепций эмоциональной работы и цифрового энтузиазма. Ирина Ксенофонтова и Александр Суслов в работе о стримерах отслеживают потоки коммуникации, солидарности и конфликтов исследуемого сообщества на разнообразных цифровых платформах. Исследование Константина Глазкова посвящено анализу прикладной деятельности по созданию геолокационной игры для развития лояльности клиентов финансовой корпорации.

Темы, обозначенные в этих работах, продолжают два интервью. Разговор Дмитрия Муравьева с антропологом Ником Сивером посвящен антропологии цифровых технологий и, в частности, алгоритмов, а беседа Полины Колозариди с Дэниэлом Миллером, развивает проблематизацию цифровых технологий и поддерживающих их материальных инфраструктур.

Закрывают номер три подборки полевых материалов об археологии интернета: статья Ксении Вахрушевой о российском секс-блогинге, где предлагается гибридный подход (включенное наблюдение и анализ цифровых следов в соцмедиа); работа Анны Щетвиной и Егора Ефремова о вербализации процесса создания сайтов на материалах специфического жанра цифровых текстов — «заглушкам» для сайтов, находящихся в разработке; и полевые материалы Романа Абрамова о процессе компьютеризации профессиональной деятельности PR-специалистов в 1990-е годы.

Предлагаем читателям включиться в дискуссию и будем рады предоставить страницы журнала для новых статей о цифровых полях!

В MIT Press только что вышла книжка о том, как институции и физические медиа двадцатого века сформировали современную цифровую экономику изображений.

Авторка, преподавательница факультета медиаисследований Фордхэмского университета в Нью-Йорке, рассматривает как три институции – Нью-Йоркская публичная библиотека, Музей современного искусства и фондовое агентство H. Armstrong Roberts Inc – сформировали публичное понимание того, что такое фотографическое изображение.

В книге обещают прояснить вопрос пользовательского взаимодействия с коллекциями картинок через системы классификации и протоколы поиска, и как, в свою очередь, это сформировало современную культуру изображений, восприятие изображения как отчуждаемого контента, понятия авторства, собственности и ценности, а также логику индексации, тегирования и гиперссылок

Цифровые границы?

Новость сама по себе абсолютно впечатляющая, а мимо метафоры "цифровой границы" пройти просто невозможно. В исследованиях интернет-регулирования уже какое-то время зафиксирован тренд, что управляется интернет сейчас государствами не столько через законодательные акты как таковые, но скорее через различные вмешательства в инфраструктурные аспекты работы интернета.

Тут мне кажется интересным подход исследовательницы Нормы Мёллерс и её понятие "цифровая территория". Оно объясняет, что между большими социотехническими системами и государствами есть тесная историческая связь в том смысле, что проекты по физической территориализации, утверждению себя в определенных границах, для государств всегда были связаны с крупными технологическими, инфаструктурными проектами. Анализируя различные аспекты государственной интернет-политики в Германии, она демонстрирует связь между национализацией информационной инфраструктуры в стране, особенно развернувшейся после разоблачений Сноудена, и дискурсами о "хорошем" и "плохом" гражданине как части нациестроительства. В такой сцепке она предлагает видеть появление новых форм "техно-национализма".

Такой анализ показывает, что проекты по суверенизации интернета не могут быть просто сведены к либеральным историям про "плохих" и "авторитарных" парней, поскольку государственное стремление к контролю инфраструктур как таковое аналитически обнаруживается как несвязанное с категорией политического режима (политически говоря, критика государственных проектов суверенизации, таким образом, оказывается анархическим ходом, а не либеральным). При этом, это, конечно, не значит, что в проектах по такой цифровой территориализации/суверенизации нет авторитарных оттенков, смыслов и следствий, скорее их аналитически нужно фиксировать иначе. Вместе с тем, анализ Мёллерс не слишком переносится на Россию как минимум в аспекте того, что за российскими идеями не очень понятно какая форма национализма стоит (может быть нужно искать империализм, а может что-то вообще иное), но это уже надо рассматривать в контексте сложных перипетий нациестроительства в современной России.

Цифровая граница государства

Проект изменений в приказ Роскомнадзора от 31.07.2019 № 221 позволит создать "цифровую границу государства".
Указано в пояснительной записке к проекту приказа.

На основе предоставляемых данных будет сформирована доверенная база данных геолокации IP-адресов в России.
👉 ... создание базы позволит привести цифровую границу государства в соответствие с физическими границами Российской Федерации.

Стратегии и тактики в ситуациях институциональной непрозрачности

Если про то, как сотрудники некоммерческих организаций, активисты и журналисты работают с данными в странах с высокой степенью институциональной открытости нам что-то известно, то про контексты, в которых с такой открытостью сложнее, нам известно не так много. А про опыт людей, которые пытаются такой открытости добиться, и того меньше. (Интересные статьи об этом написал Гильен Торрес, изучавший практики активистов в контексте институционального сопротивления прозрачности информации в Мексике).

И если открытость данных и стала для кого-то "концом истории", финализированным пониманием, что же с данными делать, то явно не для всех. И если большие стратегии для институционализации открытости недоступны, то тактики всегда остаются, — и в посте ниже это отлично показывается.

Если вдруг вам тоже как-то небезразлична работа с публично значимыми данными о социальных проблемах, то поддержите проект "Если быть точным". Подпиской, донатом или как-то ещё. Нам постоянно вокруг говорят, что данных навалом и с каждым годом все больше. Но какие это данные? Как раз данных о состоянии общественных благ, как и ресурсов для работы с ними, часто не хватает (особенно в сравнении с собранными сомнительным методами данными для условных языковых моделей). А такие данные важны, потому что они наш источник знаний — не менее хрупкий и ограниченный, чем все остальные, но от того не менее ценный.

Методы распознавания ИИ-контента и образование

С появлением ChatGPT и других генераторов текста, учебные заведения и преподаватели по всему миру беспокоятся об академической честности студентов, подозревая их в использовании этих инструментов. И по мере того, как искусственный интеллект начинает использоваться для создания текстов, изображений и видео, распознать такой контент становится более важным в тех контекстах, где оценивается способность создать нечто как бы "самостоятельно". Возможно, представления сообществ и организаций о такой "самостоятельности" в будущем изменятся, и генераторы тексты будут восприниматься не как отдельные сущности, а скорее как клавиатура. Но неизбежности и безусловного блага тут нет, однако про всякие методы обнаружения пару слов сказать хочется, потому что я вижу беспокойства (чаще всего, преподавательские) вокруг себя на эту тему:
1. Исследований пока не так много, но в целом они показывают, что методы распознавания контента, созданного искусственным интеллектом, и особенно текста, крайне ненадежны. По крайней мере, пока их точность оставляет желать лучшего.
2. На методы обнаружения ИИ-контента есть методы, скажем так, второго порядка, которые тоже с большей или меньшей степенью надежности могут позволить человеку затруднить обнаружение.
3. Даже если методы станут более точными, они все же выражены в терминах вероятностей. В образовательном контексте чаще всего обнаружение завязано на двоичном решении – у нас либо плагиат и санкции, либо нет. Выносить решение формата да/нет на основе вероятностей кажется этически сомнительным. В этом смысле использование методов распознавания ИИ отличается от других технологий по обнаружению плагиата, которые часто показывают возможный изначальный источник.
4. Стоит задуматься, почему вообще возникает такой запрос на распознавание. Не всегда, но часто, он исходит из целей и задач образовательной институции (не обесценить предоставляемую ей квалификацию), а не из смыслов образовательного процесса.

Если методы распознавания не помогают, значит ли это, что c ChatGPT можно только безусловно смириться и интегрировать в свои курсы? Думаю нет, тогда все курсы просто превратятся в преподавание ChatGPT. Значит ли это, что нужно менять форматы оценивания на те, что не требуют текстов? Возможно, но для многих дисциплин навыки работы с текстами важны, и для них такой ответ не подойдёт. Мне думается, что условно возможны три типа ответов:
1. Культурно-просветительский. В этом случае мы говорим себе, что, да, ChatGPT и прочее теперь с нами, давайте поговорим о каком-то критичном и ответственном использовании. Это может быть какой-то разговор или отдельный семинар о том, как эта технология примерно работает, каковы её возможности и ограничения.
2. Социально-организационный. Он уже требует работы над тем, чтобы сами условия, при которых преподаватели подталкиваются к подозрению, а студенты – к использованию этих инструментов для избежания академической деятельности, стали иными.
3. Политический. В таком типе ответа можно ставить вопрос о том, что за общее благо и для кого предоставляет образование, почему оно постоянно отвечает на какие-то внешние вызовы, и какую роль в этом играют технологии. Это вопросы коллективных форм жизни с технологиями, которые могут разнится от принятия до отказа.