Большой Брат
Apr. 24th, 2023 11:06 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
alexander_kunisЗанятный факт: в первобытном обществе не было рабства, соответственно войны завершались геноцидом. Но в определенный момент все изменилось и с тех пор рабство в той или иной мере существует и практикуется.
Стоит оговориться что рабство бывает разным. Помимо крайнего случая, когда раб является не более чем говорящим орудием, как в Риме, существовало и патриархальное рабство, где глава семьи имел над рабами такую же власть как и над детьми, бывало и государственное рабство, в котором все "граждане" оказывались равны в своем подчиненном правителю статусе. Ну и конечно система, в которой государство контролирует всю экономику, имеет сходную степень власти над населением. И неважно что СССР называла себя прогрессивным строем - по сути то же государственное рабство как в каком-нибудь Древнем Египте.
Так почему же до како-го то момента рабство практически отсутствовало? Очевидно, потому что это было слишком хлопотно. Раба нужно контролировать. И если оружием хозяина является дубина, камень и лук, это примерно то же чем может вооружиться раб. У владельца нет существенного преимущества и необходимо слишком много охраны. Для того чтобы содержание раба стало выгодным, необходимо специализированное оборудование: металлическое оружие, доспехи, цепи, огнестрел и т.д. Таким образом один вооруженный надсмотрщик может эффективно контролировать десятки и сотни рабов. Профит!
Давно выяснено, что рабский труд менее эффективен чем труд свободного человека, особенно когда имеет место интенсивный научно-технический прогресс, требующий заинтересованности и большой степени свободы у людей.
Как же дать людям свободу улучшать свою жизнь, но так чтобы он не покусился на хозяев?
1. Внушить, что хозяева выполняют важную функцию, например, защиты от врагов, поддержания стабильности и т.д.
2. Запугать тех, кто не купился на первый пункт
3. Найти и репрессировать тех, кто не повелся на пропаганду и не замолчал в страхе.
До изобретения радио и телевидения, массированное использование пропаганды (для 1 и 2 пунктов) требовало создания разветвленной иерархической сети идеологических работников, транслирующих рядовому человеку сообщение из центра. В какой-то мере это удалось Католической церкви, которая построила такую сеть и обрела невиданную силу, но увы, это не слишком эффективное решение. Техника (радио и телевизор) решили проблему гораздо лучше и 20 век отметился возникающими как грибы диктатурами. Когда в каждой деревне у вас стоит радио репродуктор и вся нация имеет возможность услышать уверенный голос Дуче, визг Гитлера или звенящий железом голос Левитана, это невероятно усиливает власть тех кто находится у власти. Простите за каламбур.
Екатерина Шульман однажды сказала, что отличие современных автократий от тоталитарных государств прошлого состоит в процентным соотношением насилия и пропаганды, используемых для контроля населения. Прогресс, мол, заключается в том, что раньше необходимо было, скажем, 80% насилия и 20% пропаганды, чтобы держать всех в узде, а сейчас наоборот. Отличная новость: в современном мире нужно посадить сравнительно немного людей, а благодаря невероятно эффективным СМИ эффект будет больше чем от массовых расстрелов столетней давности.
Однако мы должны помнить, что действительно тоталитарная система возможна не просто когда вы наполнили информационные потоки вашей пропагандой и запугиванием, но когда вы еще и можете подавить распространение альтернативных точек зрения (пункт 3).
И тут можно обнаружить занятную аналогию с началом этой заметки: контролировать общение людей - непосильная задача для властей. Вы не можете отследить что люди говорят друг другу. Как когда-то в первобытную эпоху оружие хозяина примерно соответствовало тому, что мог использовать раб, так и сейчас, если вам нужно понять что говорит или пишет поднадзорный человек, вам нужен другой живой человек, который будет это слушать и читать, примерно с той же скоростью. Ну да, можно делать выборочные проверки, можно следить по ключевым словам и все такое, но это не решает проблему. Принципиально невозможно установить тотальную слежку.
В романе 1984 Оруэлл описал Большого Брата, который может подключаться и подслушивать разговор в любом доме. Но Оруэлл прекрасно понимал, что за всеми следить невозможно и в его романе реально контролируют только членов партии, а основную массу населения, пролов, просто целенаправленно оболванивают.
В соцсетях цензура существует давно, но до сих пор она малоэффективна. Ее можно обойти, например, избегая ключевые слова. Можно писать иносказательно, использовать замену символов, картинки и прочие ухищрения. Более того в системе бывают ложно-положительные срабатывания, как, например, однажды я получил строгое предупреждение за выражение "повесить голову" - система усмотрела в нем призыв к насилию. Наличие таких ложных тревог вынуждает использовать мягкие санкции, возможность обжалования и т.д. В конечном счете, приговор к цифровому расстрелу (полному бану) подписывает человек. Вдобавок, большинство этих работников разговаривают на английском, так что в национальных сегментах можно чувствовать себя чуть дальше от всевидящего ока. ИИ, способный понимать смысл, причем на всех языках, меняет правила игры.
Допустим, владельцы ФБ, Гугла и иже с ними захотят обеспечить избрание выгодного им кандидата и блокируют все нелицеприятные высказывания о нем, в том числе иносказательные. До сих пор это было непосильной задачей. ИИ уже в ближайшее время делает это вполне реальным. Но это всего лишь ближайшее будущее. А что дальше?
Как когда-то, вооруженный человек стал способен справляться с десятком безоружных и это поменяло все, так использующий ИИ вертухай может досконально отследить общение десятков тысяч поднадзорных.
Возможно мы находимся в точке перелома, когда технический прогресс делает возможным совершенно новую форму общественного устройства. Общества, в котором вы не сможете рассказать анекдот про власть даже у себя на кухне, где не будет ни единого шанса на смену власти, а поскольку такие общества будут по-прежнему экономически эффективны, то они не проиграют свободным странам холодную войну как когда-то СССР. А потом уже и бежать будет некуда...
ПС. Забавный момент: мы считаем рабство отвратительной практикой, но в момент ее появления, это был большой шаг в сторону гуманизации военных конфликтов. До этого войны практически всегда оканчивались геноцидом. Институт рабства же создал стимул к сохранению жизни побежденным. Может быть в появлении тотальной слежки тоже будет положительные стороны: преступников не надо будет сажать в тюрьму, но лишь снабжать браслетами, через которые ИИ будет отслеживать каждый шаг осужденного. Как ни крути, а вполне гуманное изменение.
Стоит оговориться что рабство бывает разным. Помимо крайнего случая, когда раб является не более чем говорящим орудием, как в Риме, существовало и патриархальное рабство, где глава семьи имел над рабами такую же власть как и над детьми, бывало и государственное рабство, в котором все "граждане" оказывались равны в своем подчиненном правителю статусе. Ну и конечно система, в которой государство контролирует всю экономику, имеет сходную степень власти над населением. И неважно что СССР называла себя прогрессивным строем - по сути то же государственное рабство как в каком-нибудь Древнем Египте.
Так почему же до како-го то момента рабство практически отсутствовало? Очевидно, потому что это было слишком хлопотно. Раба нужно контролировать. И если оружием хозяина является дубина, камень и лук, это примерно то же чем может вооружиться раб. У владельца нет существенного преимущества и необходимо слишком много охраны. Для того чтобы содержание раба стало выгодным, необходимо специализированное оборудование: металлическое оружие, доспехи, цепи, огнестрел и т.д. Таким образом один вооруженный надсмотрщик может эффективно контролировать десятки и сотни рабов. Профит!
Давно выяснено, что рабский труд менее эффективен чем труд свободного человека, особенно когда имеет место интенсивный научно-технический прогресс, требующий заинтересованности и большой степени свободы у людей.
Как же дать людям свободу улучшать свою жизнь, но так чтобы он не покусился на хозяев?
1. Внушить, что хозяева выполняют важную функцию, например, защиты от врагов, поддержания стабильности и т.д.
2. Запугать тех, кто не купился на первый пункт
3. Найти и репрессировать тех, кто не повелся на пропаганду и не замолчал в страхе.
До изобретения радио и телевидения, массированное использование пропаганды (для 1 и 2 пунктов) требовало создания разветвленной иерархической сети идеологических работников, транслирующих рядовому человеку сообщение из центра. В какой-то мере это удалось Католической церкви, которая построила такую сеть и обрела невиданную силу, но увы, это не слишком эффективное решение. Техника (радио и телевизор) решили проблему гораздо лучше и 20 век отметился возникающими как грибы диктатурами. Когда в каждой деревне у вас стоит радио репродуктор и вся нация имеет возможность услышать уверенный голос Дуче, визг Гитлера или звенящий железом голос Левитана, это невероятно усиливает власть тех кто находится у власти. Простите за каламбур.
Екатерина Шульман однажды сказала, что отличие современных автократий от тоталитарных государств прошлого состоит в процентным соотношением насилия и пропаганды, используемых для контроля населения. Прогресс, мол, заключается в том, что раньше необходимо было, скажем, 80% насилия и 20% пропаганды, чтобы держать всех в узде, а сейчас наоборот. Отличная новость: в современном мире нужно посадить сравнительно немного людей, а благодаря невероятно эффективным СМИ эффект будет больше чем от массовых расстрелов столетней давности.
Однако мы должны помнить, что действительно тоталитарная система возможна не просто когда вы наполнили информационные потоки вашей пропагандой и запугиванием, но когда вы еще и можете подавить распространение альтернативных точек зрения (пункт 3).
И тут можно обнаружить занятную аналогию с началом этой заметки: контролировать общение людей - непосильная задача для властей. Вы не можете отследить что люди говорят друг другу. Как когда-то в первобытную эпоху оружие хозяина примерно соответствовало тому, что мог использовать раб, так и сейчас, если вам нужно понять что говорит или пишет поднадзорный человек, вам нужен другой живой человек, который будет это слушать и читать, примерно с той же скоростью. Ну да, можно делать выборочные проверки, можно следить по ключевым словам и все такое, но это не решает проблему. Принципиально невозможно установить тотальную слежку.
В романе 1984 Оруэлл описал Большого Брата, который может подключаться и подслушивать разговор в любом доме. Но Оруэлл прекрасно понимал, что за всеми следить невозможно и в его романе реально контролируют только членов партии, а основную массу населения, пролов, просто целенаправленно оболванивают.
В соцсетях цензура существует давно, но до сих пор она малоэффективна. Ее можно обойти, например, избегая ключевые слова. Можно писать иносказательно, использовать замену символов, картинки и прочие ухищрения. Более того в системе бывают ложно-положительные срабатывания, как, например, однажды я получил строгое предупреждение за выражение "повесить голову" - система усмотрела в нем призыв к насилию. Наличие таких ложных тревог вынуждает использовать мягкие санкции, возможность обжалования и т.д. В конечном счете, приговор к цифровому расстрелу (полному бану) подписывает человек. Вдобавок, большинство этих работников разговаривают на английском, так что в национальных сегментах можно чувствовать себя чуть дальше от всевидящего ока. ИИ, способный понимать смысл, причем на всех языках, меняет правила игры.
Допустим, владельцы ФБ, Гугла и иже с ними захотят обеспечить избрание выгодного им кандидата и блокируют все нелицеприятные высказывания о нем, в том числе иносказательные. До сих пор это было непосильной задачей. ИИ уже в ближайшее время делает это вполне реальным. Но это всего лишь ближайшее будущее. А что дальше?
Как когда-то, вооруженный человек стал способен справляться с десятком безоружных и это поменяло все, так использующий ИИ вертухай может досконально отследить общение десятков тысяч поднадзорных.
Возможно мы находимся в точке перелома, когда технический прогресс делает возможным совершенно новую форму общественного устройства. Общества, в котором вы не сможете рассказать анекдот про власть даже у себя на кухне, где не будет ни единого шанса на смену власти, а поскольку такие общества будут по-прежнему экономически эффективны, то они не проиграют свободным странам холодную войну как когда-то СССР. А потом уже и бежать будет некуда...
ПС. Забавный момент: мы считаем рабство отвратительной практикой, но в момент ее появления, это был большой шаг в сторону гуманизации военных конфликтов. До этого войны практически всегда оканчивались геноцидом. Институт рабства же создал стимул к сохранению жизни побежденным. Может быть в появлении тотальной слежки тоже будет положительные стороны: преступников не надо будет сажать в тюрьму, но лишь снабжать браслетами, через которые ИИ будет отслеживать каждый шаг осужденного. Как ни крути, а вполне гуманное изменение.
