И.В. Данилевский, Закон Ципфа-Парето, новые квантовые технологии и философия бессознательного

В течение прошлого века загадочный математический феномен, называемый законом Ципфа, позволял с большой точностью предсказывать изменение размеров городов-гигантов по всему миру. Штука в том, что никто не понимает, как и почему работает этот закон…

Вернёмся в 1949 год. Лингвист Джордж Ципф (Зипф) заметил странную тенденцию в использовании людьми определённых слов в языке. Он обнаружил, что небольшое количество слов используется постоянно, а подавляющее большинство – очень редко. Если оценить слова по популярности, открывается поразительная вещь: слово первого разряда всегда используется вдвое чаще, чем слово второго разряда и втрое чаще, чем слово третьего разряда.
Ципф обнаружил, что это же правило действует в распределении доходов людей в стране: самый богатый человек имеет вдвое больше денег, чем следующий богач и так далее.
Позже стало понятно, что этот закон также работает в отношении размера городов. Город с самым большим населением в любой стране в два раза больше, чем следующий по размеру город и так далее. Невероятно, но закон Ципфа действовал абсолютно во всех странах мира на протяжении прошлого столетия.

Просто взгляните на численность самых больших городов России. Численность населения Москвы примерно в 2 раза больше, чем Санкт-Петербурга.
Пол Кругман, писавший о применении закона Ципфа к городам, превосходно подметил: часто экономическую теорию обвиняют в создании сильно упрощённых моделей сложной, беспорядочной действительности. Закон Ципфа показывает, что всё обстоит с точностью до наоборот: мы применяем слишком сложные, беспорядочные модели, а действительность поразительно аккуратна и проста.

Закон силы

Можно задаться вопросом, что же имеется в виду под определением «город»? Ведь, например, Бостон и Кембридж считаются двумя разными городами, так же, как Сан-Франциско и Окленд, разделённые водой. У двух шведских географов тоже возник такой вопрос, и они стали рассматривать так называемые «естественные» города, объединённые населением и дорожными связками, а не политическими мотивами. И они обнаружили, что даже такие «естественные» города подчиняются закону Ципфа.

Почему закон Ципфа работает в городах?

Как же растут города

Математик Стивен Строгац описывает это так:
Сколько калорий в день нужно мыши по сравнению со слоном? Оба они млекопитающие, таким образом, можно предположить, что на клеточном уровне они не должны сильно отличаться. И действительно, если вырастить в лаборатории клетки десяти различных млекопитающих, у всех этих клеток будет одинаковая скорость метаболизма, они не запоминают на генетическом уровне, какого размера в действительности их хозяин.
Но если взять слона или мышь как полноценное животное, функционирующее скопление миллиардов клеток, то на одно и то же действие клетки слона будут расходовать гораздо меньше энергии, чем клетки мыши. Закон метаболизма, названный законом Кляйбера, утверждает, что метаболические потребности млекопитающего растут пропорционально его массе тела в 0,74 раза. Эти 0,74 очень близки к 0,77, наблюдаемым у закона, управляющего количеством бензоколонок в городе.
Совпадение? Может быть, но скорее всего нет.
Всё это ужасно захватывающе, но, пожалуй, менее таинственно, чем закон Ципфа. Не так сложно понять, почему город, являющийся, по сути, экосистемой, хоть и построенной людьми, должен подчиняться естественным законам природы. Но закон Ципфа не имеет аналога в природе. Это социальное явление и оно имеет место только на протяжении последних ста лет.
Всё, что мы знаем, это то, что закон Ципфа действует и для других социальных систем, включая экономическую и лингвистическую. Таким образом, возможно, есть какие-то общие социальные правила, создающие этот странный закон, и когда-нибудь мы сможем их понять. Тот, кто разгадает этот ребус, возможно, обнаружит ключ к предсказанию намного более важных вещей, чем рост городов. Закон Ципфа может быть лишь небольшим аспектом глобального правила социальной динамики, которое определяет то, как мы общаемся, торгуем, образуем сообщества и многое другое.

Среди критериев оценки качества текста основным считается его естественность. Проверку этого показателя можно провести с помощью математического метода, который обнаружил американский лингвист Джордж Ципф.

Проверка по закону Ципфа - это метод оценки естественности текста, определяющие закономерность расположения слов, где частота слова обратно пропорциональна его месту в тексте.

Первый закон Ципфа "ранг - частота"

С = (Частота вхождения слова х Ранг частоты) / Число слов.

Если взять соотношение слова на ранг частоты, то величина (С) будет неизменной, причем это верно для документа на любом языке, внутри каждой языковой группы значение будет постоянным.

Значимые для документа слова, определяющие его тематику, находятся в середине гиперболы. Слова, используемые наиболее часто, также как и низкочастотные, не несут решающего смыслового значения.

Второй закон Ципфа "количество - частота"

Частота слова и его число в тексте также связаны друг с другом. Если построить график, где Х - частота слова, Y - число слов данной частоты, форма кривой будет неизменной.

Принцип написания хорошего текста предполагает, что его необходимо сделать наиболее понятным при использовании наименьшего количества слов.

Закон показывает общее свойство для любого языка, т.к. всегда будет определенное количество наиболее часто встречающихся слов.

Проверить SEO-текст на естественность нужно обязательно, если при написании использовались ключевые слова, чтобы он был интересным и понятным для большой аудитории читателей. Также этот показатель имеет значение при ранжировании сайтов поисковыми системами, которые определяют соответствие текста ключевым запросам, распределяя слова по группам важных, случайных и вспомогательных.

Подробнее:

• Зависимость между частотой встречаемости слова в тексте f, и его местом в частотном словаре (рангом) r, обратно пропорциональная. Чем больше ранг слова (чем дальше оно находится от начала словаря), тем меньше частота его встречаемости в тексте.
• График такой зависимости - гипербола, которая при небольших значениях рангов очень резко спадает, а затем, в области малых значений частоты встречаемости, f, тянется очень далеко, постепенно, но очень незаметно, уменьшаясь по мере роста ранга, r.
• Если частота встречаемости одного слова 4 на миллион, а частота другого - 3 на миллион, не имеет значения, что ранги этих слов различаются в тысячу раз. Эти слова употребляются настолько редко, что многие носители языка их даже не слышали.
• Однако эта дальняя область примечательна тем, что слово, находящееся здесь, может очень легко многократно уменьшить значение своего ранга. Даже самое маленькое увеличение частоты встречаемости слова резко сдвигает его положение к началу частотного словаря.
• В терминах этого закона мерой популярности слова является его положение в частотном словаре языка. Более популярное слово находится ближе к началу словаря, чем менее популярное.
• Он отражает зависимость частоты использования слова в языке от его места в частотном словаре. Популярные слова языка употребляются чаще. С математической точки зрения, график этой зависимости является гиперболой с резким подъемом по мере приближения к началу координат и длинным, пологим, почти горизонтальным, «хвостом». БОльшая часть слов языка размещается именно в этом «хвосте». Здесь место слова в частотном словаре, если и изменяет частоту использования этого слова в языке, то совсем не на много.
• Но как только положение слова в частотном словаре достигает того места на гиперболе, где по мере приближения к началу координат начинается существенный подъем кривой, ситуация изменяется. Теперь небольшое изменение частоты встречаемости слова уже не приводит к значительным изменениям его ранга, то есть положение слова в частотном словаре перестает изменяться. Значит, рост популярности слова затормозился. Для того, чтобы он продолжался, следует предпринять специальные меры для того, чтобы повысить частоту встречаемости слова. Например, если слово - название товара, необходимо потратить средства на рекламную компанию (

Здравствуйте, уважаемые читатели! Закон Ципфа поможет проверить текст на естественность. Так, по крайней мере, считается. Что за «естественность» на нашу голову? Нужно ли контролировать еще и этот показатель, насколько важен он для продвижения сайта? Корректно ли происходит его определение онлайн сервисами? Со всеми этими вопросами хорошо бы разобраться. В сети гуляют различные, порой самые противоположные мнения по этому поводу. Вставлю ка, и я свои «пять копеек» и попробую изложить собственные подходы к этой Ципфе.

Почему вдруг про закон - в женском роде? Да потому что мне так и хочется сравнить детище лингвиста и филолога Джорджа Кингсли Зипфа с хитромудрой лисой, которая правдами и неправдами проникает в нашу «лубяную избушку» - копирайтинг и начинает там качать права. Но сначала немного предыстории с математикой и статистикой. Но, не пугайтесь, друзья, я и сама не из сильных вычислителей, так что не буду мучить ни вас, ни себя.

Закон Ципфа и глобальные закономерности

Дж. К. Зипф сам себя называл специалистом по статистической социальной … экологии. Интересное сочетание, не правда ли? Он пытался исследовать закономерности социальных явлений с точки зрения статистики и математики больших чисел. И ему это в какой-то степени удалось. Так на примере сопоставления частотности употребления слов английского языка с их номером в «табеле о рангах» ученый выявил, что соблюдается обратно пропорциональная зависимость. Грубо говоря, слово, которое занимает вторую строчку в списке по частоте употребления, используется в два раза реже, чем первое; третье - в три раза и так далее. С точки зрения математики эта функциональная зависимость описывается распределением Парето. Для каждого языка, разумеется, вводятся свои константы и коэффициенты.

Эта же закономерность прослеживается и в некоторых экономических категориях, например, распределении доходов богатейших людей мира. Кроме того, численность населения опять-таки крупнейших городов большинства стран мира тоже выстраивается в шеренгу, обозначенную тем же Зипфом. С некоторыми отклонениями, с учетом всевозможных возмущающих факторов, но закон каким-то непостижимым образом работает. Не хочу останавливаться долго на обсуждении этого феномена. Нас загадочный зверь Ципфа интересует все-таки даже не с точки зрения лингвистики, а со стороны применимости его к небольшим выборкам слов, каковыми являются наши статьи.

Стоит ли проверять тексты по закону Ципфа

Заметьте друзья, в предыдущем разделе мы говорили о растущих мегаполисах или капиталах богачей, употребляя превосходную степень. На одном из сайтов я даже нашла сведения, что уже для городов со средней численностью населения выкладки Зипфа не работают. То же и с экономикой: для фирм, имеющих доходы менее 10 млн $/год, закон «ранг/частотность» тоже не срабатывает. Что касается лингвистических изысканий, то целая языковая группа - подборка нехилая. Английский насчитывает, например, около миллиона слов. И там, да, соотношение частотности и употребляемости этих слов идеально выстраивает гиперболу. Но вот что-то я нигде не нашла ограничений для применения Ципфы к выборкам слов небольшого объема.

Однако, простое чувство логики подсказывает, что если уж средние (с населением в сотни тысяч) города или фирмы с доходами менее 10 млн (бедненькие!) не могут выступать апологетами зипофских расчетов, то для чего мучить наши тексты. Ведь и тысяча слов наберется в них нечасто. Так средняя статья на 3 тыс. знаков б/п содержит примерно 400-500 слов. И какую же закономерность пытаемся мы отыскать среди подобной группы?

Нет, возможно, что разработчики онлайн-сервисов для проверки текстов по закону Ципфа попытались как-то учесть тот факт, что наши статьи трудно назвать семантическими мегавыборками. Но если бы это им удалось, то тогда тут дело пахло бы Нобелевской премией! Такая поправка к открытию знаменитого ученого уж точно требовала бы по крайней мере добавки фамилии вундеркинда, типа - закон Ципфа-Пупкина. Звучит? Но звуков фанфар мы не слышали.

И опять логика вкупе с некоторым жизненным опытом подсказывает: разработчики поисковых алгоритмов ранжирования немного заигрались. Понимаю их нелегкую задачу: каждый член команды должен постоянно доказывать свою эффективность, креативность, фонтанировать идеями. Вот и дофонтанировались они на нашу голову.

Эксперименты ретивых оптимизаторов

Ну, не нужно стрелять из пушки по нашим статьям-воробышкам: не годятся наши опусы для ваших с Зипфом экспериментов, уважаемые разработчики. На малых выборках эти закономерности притянуты за уши. Это, конечно, сугубо мое мнение. В сети мне попадались и противоположные: закон Ципфа, мол, улучшил позиции сайта в выдаче, тексты стали заметно интереснее и так далее, в том же духе. Многие пытаются анализировать ТОП на соответствие распределению Ципфа и делать на этой основе какие-то выводы. Стоп, господа! На фоне около восьмиста факторов, которые поисковики учитывают при ранжировании, вы пытаетесь отследить влияние одного? Ну, это никуда не годится! Исследования так не проводят, их результаты нельзя признать корректными.

При всем моем негативном отношении не к Ципфе (науку я уважаю), а к неоправданным попыткам поверить в очередной раз гармонию алгеброй, я не раз анализировала свои работы на естественность в онлайн сервисах. По просьбе заказчиков, разумеется. Могу сказать, что живой человеческий язык без канцеляризмов, штампов и тавтологии очень легко помогает преодолеть зипофские барьеры. Достичь 70-80 % естественности текста - это совсем нетрудно. Желающие могут проверить свои тексты например. Заниматься этим постоянно, думаю, не нужно. Тем более, не стоит делать ставку на лису-Ципфу для продвижения. Честное слово, друзья, не тратьте время и энергию на антинаучные эксперименты.

Настоящий текст имеет 87% естественности. Достаточно. Думаю, что даже если я догоню показатели до 98%, то это нисколько не повлияет на позиции в выдаче. По моим прогнозам, этой статье ТОП не светит. Ну, и ладно, зато сказала, о чем хотела.

До свидания, друзья.

Ваш гид по стране Копирайтинг GALANT.

Первый раз с описанием законом Ципфа я встретился, читая . Суть закона: если слова любого текста ранжировать по частоте использования, то произведение ранга на частоту есть величина постоянная:

F*R =C , где:

F – частота появления слова в тексте;

R – ранг слова (наиболее часто употребляемое слово получает ранг 1, следующее – 2 и т.д.);

С – константа.

Для тех, кто еще хоть немного помнит алгебру:), в приведенной выше формуле легко узнает уравнение гиперболы. Ципф экспериментально определил, что С ≈ 0,1. Так, что графическое изображение закона Ципфа приблизительно следующее:

Рис. 1. Гипербола закона Ципфа.

Скачать заметку в формате , примеры в формате

У гипербол есть замечательно свойство. Если для обеих осей взять логарифмический масштаб, то гипербола будет иметь вид прямой:

Рис. 2. Та же гипербола, но на графике с логарифмическими шкалами

Может возникнуть вопрос: при чем здесь поисковая оптимизация? Так вот, оказывается, что специально сгенерированные тексты, содержащие повышенное число ключевых слов, не вписываются в закон. Поисковые машины (Google, Yandex) проверяют тексты на «естественность», то есть соблюдение закона Ципфа и, либо понижают рейтинг сайтов с «подозрительными» текстами, либо вообще банят такие сайты.

Второй раз я встретился с законом Ципфа у Бенуа Мандельброта в его книге . И этот небольшой раздел мне так понравился, что позвольте привести его полностью.

Неожиданный степенной закон

В 1950 году я был молодым студентом-математиком Парижского университета, подыскивавшим тему для своей диссертации. Мои дядя Золем являл собою местный хрестоматийный образец профессора математики: глубокий теоретик, очень консервативный и, несмотря на то, что родится в Польше, столп французского научного сообщества. Уже в 31-летнем возрасте его избрали профессором на полной ставке престижного Французского колледжа.

То быта эра Николя Бурбаки; за этим собирательным псевдонимом скрывался математический «клуб», который, подобно Дада в искусстве или экзистенциализму в литературе, распространился из Франции и стал на некоторое время чрезвычайно влиятельным на мировой сцене. Абстракция и чистая математика, математика ради математики, были возведены в ранг культа; члены «клуба» презирали прагматизм, прикладную математику и даже математику как инструмент науки. Такой подход был для французских математиков догмой, а для меня, пожалуй, причиной уехать из Франции и поступить на работу в IBM. Я был, к ужасу моего дяди, молодым бунтарем. Работая над своей докторской диссертацией, я часто в конце дня заходил к нему в кабинет поболтать, и нередко эти разговоры перерастали в дискуссию. Однажды, пытаясь как-то скрасить предстоящую долгую и скучную поездку на метро домой, я попросил у него в дорогу что-нибудь почитать. Он сунул руку в мусорную корзину и извлек оттуда несколько скомканных листков бумаги.

– Вот, возьми, – буркнул дядя. – Глупейшая статья, из тех, какие ты любишь.

То был обзор книги социолога Джорджа Кингсли Ципфа. Ципф, достаточно богатый человек, чтобы не думать о куске хлеба насущного, читал в Гарвардском университете лекции по им же придуманной дисциплине, которую он назвал статистической человеческой экологией. В его книге Human Behavior and the Principle of Least Effort (Поведение человека и принцип наименьших усилий) степенные законы рассматривались как вездесущие структуры общественных наук. В фишке степенные законы вполне обычны и выступают формой того, что я ныне называю фрактальным самоповторением в масштабе. У сейсмологов есть математическая формула степенной зависимости количества землетрясений от их силы по знаменитой шкале Рихтера. Или, другими словами: слабые землетрясения обычны, тогда как сильные редки, а частота и сила землетрясений связаны точной формулой. В то время было немногих таких примеров, да и известны они были всего нескольким людям. Ципф, энциклопедист, был одержим навязчивой идеей, будто степенные законы действуют не только в физических науках; им подчиняются все проявления поведения, организации и анатомии человека – даже размеры половых органов.

К счастью, обзор книги, который мне дал дядя, ограничивался только одним необычно изящным примером: частотой слов. В тексте или речи некоторые слова, такие как английские the (определенный артикль) или this («это»), встречаются часто; другие, milreis или momus, появляются редко или вообще никогда (для самых любознательных: первое означает древнюю португальскую монету, второе – синоним слова «критик»). Ципф предложил следующее упражнение: взять любой текст и посчитать, сколько раз в нем появляется каждое слово. Затем присвоить каждому слову ранг: 1 - для самых часто употребляемых слов, 2 - для занимающих второе место по частоте появления и т.д. Наконец, построить график, на котором для каждого ранга указать количество появлении этого слова. Мы получим удивительный рисунок. Кривая не убывает равномерно от самого обычного слова в данном тексте к самому редкому. Сначала она обрушивается с головокружительной быстротой, после чего начинает убывать медленнее, повторяя траекторию лыжника, прыгнувшего с трамплина, а затем приземлившегося и спускающегося по относительно пологому склону заснеженной горы. Образец классической неравномерной шкалы. Ципф, подогнав под свои диаграммы кривую, придумал для нее формулу.

Я был ошеломлен. К концу моей долгой поездки на метро я уже имел тему для половины моей докторской диссертации. Я точно знал, как объяснить математические основания частотного распределения слов, чего Ципф, не будучи математиком, сделать не смог бы. В последующие месяцы меня ждали удивительные открытия. Используя упомянутое уравнение, можно создать мощный инструмент социальных исследований. Улучшенный вариант формулы Ципфа позволял количественно оценить и ранжировать богатство словарного запаса любого человека: высокое значение – богатый лексикон; низкое значение – бедный. Имея такую шкалу, можно измерять различия по словарному запасу между текстами или говорящими. Появляется возможность количественно оценить эрудицию. Правда, мои друзья и консультанты были в ужасе от моей решимости заняться этой странной темой. Ципф, говорили они мне, человек с причудами. Мне показали его книгу, и я согласился, что она отвратительна. Подсчет слов – это не настоящая математика, убеждали меня. Занявшись этой темой, я никогда не найду хорошую работу; и профессором стать мне тоже будет нелегко.

Но я оставался глух к мудрым советам. Мало того, я написал диссертацию вообще без консультантов и даже уговорит одного из университетских бюрократов заверить ее печатью. Я был исполнен решимости пройти избранный путь до конца и применить идеи Ципфа в экономике, ведь не только речь можно свести к степенному закону. Богаты мы или бедны, процветаем или голодаем - все это тоже казалось мне объектом степенного закона.

Мандельброт немного модифицировал формулу Ципфа:

F = C * R -1/ a , где

a – коэффициент, характеризующий богатство словарного запаса; чем больше значение a, тем богаче словарный запас текста, поскольку кривая зависимости частоты появления каждого слова от его ранга убывает медленнее, и, например, редкие слова появляются чаще, чем при меньших значениях a. Именно это свойство Мандельброт предполагал использовать для оценки эрудиции .

С законом Ципфа не всё так гладко, и в конкретных применениях опираться на экспериментально определенный коэффициент a не всегда получается. В то же время закон Ципфа является ни чем иным, как законом Парето «наоборот», поскольку и тот и другой – частные случаи степенных рядов, или… проявление фрактальной природы экономических и социальных систем .

Для себя суть фрактальной природы экономических систем я сформулировал следующим образом. С одной стороны, есть игровая случайность: рулетка, бросание костей. С другой, технологическая/физическая случайность: разброс диаметра вала, изготавливаемого на токарном станке, разброс роста взрослого человека. Все перечисленные явления описываются . Так вот, есть целый ряд явлений не подчиняющихся этому распределению: богатство стран и отдельных людей, колебания цен на акции, курсы валют, частота использования слов, сила землетрясений… Для таких явлений характерным является то, что среднее значение очень сильно зависит от выборки. Например, если взять сто случайных людей разного роста, то добавление к ним самого высокого человека на Земле не сильно изменит средний рост этой группы. Если же посчитать средний доход ста случайных людей, то добавление самого богатого человека планеты – Карлоса Слим Элу (а не Билла Гейтса, как многие могли бы подумать:)) значительно увеличит среднее богатство каждого, примерно, до 500 млн. долларов!

Другим проявлением фрактальности является значительное расслоение выборки. Рассмотрим, например,

Согласитесь, представленная закономерность как две капли воды похожа на кривую Ципфа!

Одно из свойств фрактальности, это самоповторение. Так вот, из 192-х стран мира, перечисленных в списке, 80% мирового богатства сосредоточена всего в 18 странах – 9,4% (18/192). Если же теперь рассмотреть только эти 18 стран, то их суммарное богатство – 46 трлн. долл. – распределено столь же неравномерно. 80% от этих 46 трлн. Сосредоточено в менее чем половине стран, и т.д.

Вы можете спросить: какой практический вывод из всего сказанного? Я бы сказал так:

1. Социальные и экономические системы не описываются гауссианой. Эти закономерности подчиняются степенным рядам [синоним – фрактальная природа].
2. Выбросы от среднего существенно более вероятны, чем в соответствии с предсказаниями колоколообразной кривой Гаусса. Более того, выбросы внутренне присущи системе; они не случайны, а закономерны.
3. Оценки рисков нельзя строить на основе нормального распределения вероятностей редких нежелательных событий.
4. … не буду лукавить, пока больше ничего придумать не могу… но это не значит, что практических выводов больше нет… просто мои знания этим ограничиваются…

… но согласитесь, ведь красивые закономерности!

О фрактальности см. Бенуа Мандельброт

Надо отметить, что данные из разных источников сильно разнятся, но это не имеет отношения к рассматриваемой здесь теме.