Про проблему борьбы со спамом

Многие говорили ¹ ² ³ ⁴, что мы проиграли борьбу со спамом, и что бессмысленный спам заполонил интернет, потому что у нас нет надежных алгоритмов, чтобы с ним бороться.

Это не так, алгоритм у нас есть, и каждый может убедиться в его производительности, если будет хотя бы неделю выделять две минуты на то чтобы разобрать свою электронную почту. Этот алгоритм называется Байесовская фильтрация спама. И он особенно работает, если объединяться с людьми в группы, основанные на доверии, и делиться с друг другом полученными "весами" спам-сигналов.

Проблема спама в интернете – проблема не алгоритмическая, а политическая. Виноваты в сложившийся ситуации не только спамеры, но и те компании, которые позволили своим продуктам "зарасти" спамом, потому что алгоритм борьбы со спамом нам известен с 1998го года.

(Другой аспект "политичности" спама в том, что в некоторых местах размывают границу между обилием чужих мнений и спамом. Мнение, высказанное искренне, спамом являться не может. Признание таких мнений за спам можетначать размыватьзначимости слов в Байесовском алгоритме фильтрации. БФС отфильтрует фабрику троллей, но не отфильтрует мнения людей, которые были сформированы этой фабрикой)

Про "цифровых двойников"

В одном из разговор в интернете, мой собеседник спросил, — "Почему тебе не нравится сбор обезличенной информации? Если сервисы не хранят твоё ФИО и адрес, чем они тебе не нравятся?"

На мой взгляд, очень важно понимать, что ФИО и адрес – не единственные мои данные, которые имеют значение.

Данные не обязательно должны быть связаны со мной напрямую, чтобы напрямую влиять на меня. Если мои клики наводят на мысль, что я богатая женщина, разве это не достаточная причина, чтобы попытаться связать меня с рекламодателями, которые пытаются продавать обувь по завышенной цене? Давайте опустим все выгодные предложения, ведь ее наверняка не заинтересуют кроссовки за 10 долларов. Если по моим кликам можно предположить, мою относительную геопозицию, разве это не достаточная причина, чтобы показать мне одну сторону новостей чаще, чем другую?

В каком-то смысле наши интересы определяют нас больше, чем выданный нам паспорт.

(на эту тему отлично высказывалась книга "Цифровая паранойя" Яна Кальбитцера. Если вам интересно, то могу отдолжить книгу)

Про обучение ИИ на моих рисунках

Я не могу доказать, что нейросетки не могут обучаться на рисунках также, как на них обучаются люди. Также я не могу доказать, что у них нет хотя бы частичной осознанности.

Но, зная как работают генеретивные нейросетки, я могу с легкостью сказать, что если кто-то из людей осознанно обучается также, как они: разбирая мои рисунки на пиксели, математически высчитывая паттерны, опираясь только на мнение окружающих о том, что красиво и имеет ценность – я бы не хотела, чтобы такие люди обучались на моих рисунках.

Ergo, я могу быть против того чтобы мои рисунки являлись частью датасета для нейронки, при этом не оценивая человекоподобность нейронок.

Бонусом хотелось бы добавить, что человеческий мозг крайне хрупкая вещь, которая, когда обычно думает внутри черепной коробки, поэтому мы не можем знать насколько химические – или даже квантовые! – процессы влияют на наше мышление. Мозг нейронок может быть похож на грубый рисунок человеческого мозга, таким же образом как мы раньше считали атомы с электронами похожими на грубый рисунок Солнечной системы.

Как мне кажется, мы не сможем закрыть вопросы схожести людей с нейронками, пока не поймем как именно работают люди. У меня есть основания полагать, что нейронки не сильно похожи на людей с сохраненной личностью.