(no subject)

http://www.nickbostrom.com/superintelligentwill.pdf - источник

Рад представить вашему вниманию статью Ника Бострома "Воля Сверхразума (Superintelligentwill)", которая касается поиска общих принципов, лежащих в основе целей, мотиваций и поступков всевозможных разумных существ. В статье утверждается, что умозрительно выделенные общие принципы мотивации разумных существ применимы к нечеловеческим разумным агентам - вроде пришельцев и всевозможных НЕХ - а также, и искусственных интеллектов. На основании выделенных общих принципов доказывается, что практически всякий сверхразум будет стремиться к колонизации космического пространства - в частности, убедительность рассуждений заставляет нас задуматься о причинах того, почему таковая не наблюдается до сих пор. Может быть, нечто мешает интеллектуальным агентам развиваться до сверхразумного уровня - а может, колонизация окружающего космического пространства уже происходит - но мы её не замечаем?


К сожалению, вопросы, поднятые в двух предыдущих предложениях, находятся за пределами рассмотрения статьи Ника Бострома. Однако, это не делает её менее полезной и менее интересной.


Итак, "Воля Сверхразума".

#Абстракт:#

Этот документ обсуждает связь между интеллектом и мотивациями разумных агентов, продвигая в качестве вывода и проводя общее обсуждение двух следующих тезисов. Первый - ортогональный тезис - заключается (с некоторыми оговорками) в том, что разум и сила воли (побуждений) являются ортогональными характеристиками, которые в случае искусственного интеллекта могут варьироваться в довольно широких пределах - так, больший или меньший уровень интеллекта может сочетаться с большей или меньшей мотивированностью к достижению своих целей. Второй - тезис инструментальной конвергенции - стоит на том, что начиная с некоторого уровня интеллекта, агенты, имеющие достаточную свободу в выборе способов достижения конечных целей, будут преследовать в общем схожие промежуточные цели - ибо на то будут инструментальные причины. Вместе два этих тезиса помогут понять то, каковы возможные диапазоны поведения сверхразумных агентов - и они же могут дать представление о потенциальных угрозах создания подобных агентов.

**Ключевые слова: сверхразум, искусственный интеллект, ИИ, цель, инструментальные причины, разумный агент**

#Глава 1. Ортогональность мотивированности и интеллекта#

##Уйти от антропоцентризма##

Если мы попытаемся представить пространство всевозможных разумных сущностей - то всему множеству человеческих разумов там будет отведена маленькая и узкая область. Персональные отличия между скажем Анной Арендт и Бенни Хиллом нам могут показаться огромными - но это лишь потому, что наша шкала суждений калибрована на существующем человеческом материале. В широком пространстве всех логически допустимых возможностей эти две личности почти неотличимы. По крайней мере в терминах нейронной архитектуры они почти одинаковы. Представьте их мозги, лежащие бок о бок в спокойствии. Отличие между ними будут выглядеть незначительными, и наверняка вы посчитаете их идентичными; вы наверняка даже не сможете определить, где чей мозг. И если вы попытаетесь детально изучить их строение под микроскопом, ощущение их почти полной схожести лишь возрастёт: вы увидите одинаковую слоистую структуру их коры, сделанную из нейронов одного типа, да и обволакивающая их межнейронная жидкость будет иметь тот же состав[1].

[1]Это конечно не отрицает того, что едва заметные видимые отличия могут порождать очень глубокие отличия в функциональности

Нам хорошо известно, что наивный наблюдатель склонен антропоморфизировать свойства неодушевлённых систем. Мы, например, можем сказать: "Этот торговый автомат долго думал над моим горячим шоколадом". Это может привести к недооцениванию когнитивной сложности систем, которые естественны для человека - таких, как управление движением и сенсорное восприятие - или это же может привести к приписыванию значительной степени осознанности и разумности очень глупым системам вроде чат-ботов - таких как Weizenbaum ELIZA (Weizenbaum, 1976) Более того, существует тенденция антропоморфизировать мотивации разумных систем - в то время как нет основания приписывать их схожие с человеком побуждения и желания (близкий пример - "Моя машина не хочет ездить этим утром"). Елиезер Юдовски предоставляет хорошую иллюстрацию этого феномена:

**Пример из дешёвой научной фантастики - на обложке журнала изображено разумное инопланетное чудовище — космический термит - который держит привлекательную женщину в рваном платье. Кажется, художник уверен, что нечеловекоподобный пришелец с совершенно другой эволюционной историей найдёт человеческих женщин привлекательными... А может, иллюстратор и не задавался вопросом — а должен ли вообще гигантский термит считать человеческих женщин красивыми. Скорее всего, художник просто посчитал женщину в рваном платье самой по себе сексуальной, инстинктивно приписав ей подобное свойство. Те, кто делают подобную ошибку, не задумываются о природе разума насекомого: их внимание целиком остаётся сосредоточенным на рваном платье женщины. А если бы платье не было разорванным, женщина была бы менее сексуальной - но ведь гигантскому термиту все равно (Юдовски, 2008)**

Мотивации искусственного интеллекта могут оказаться куда менее похожими на человеческие, чем мотивации космического пришельца. Внеземные (допустим, что они существуют) биологические существа развились в процессе эволюции - и потому можно ожидать, что в их мотивациях есть нечто общее. Например, для нас не будет сюрпризом обнаружить, что какой-то наугад выбранный разумный пришелец имеет побуждения, связанные с тем, чтобы добывать или избегать определённой пищи, температурных условий, иметь доступ к воздуху, получать энергию, остерегаться телесных повреждений, болезней, хищников. Также он будет иметь стремления, связанные с размножением и защитой потомства. Член общества разумных существ также будет наделён мотивациями, связанными с кооперацией и конкуренцией: например, он может показывать групповую лояльность, зависть к халявщикам, и даже иметь концепции репутации и приличия.

Но компьютерный разум вовсе не обязан как-то интересоваться чем-то подобным - вообще. Так, можно представить себе искусственный интеллект, главной целью которого является подсчёт количества песчинок на берегах острова Боракай, или высчитывание как можно большего количества десятичных цифр числа pi. Или он будет стремиться сделать как можно больше скрепок для бумаги. Более того, легче создать ИИ с простыми целями вроде этих - чем сделать ИИ с набором ценностей и с психологией, которые бы чем-то походили на человеческие.

##1.2 Тезис ортогональности##

Ради наших целей под "интеллектом" можно понимать возможность агента к инструментальным рассуждениям (подробнее - позже). Разумная деятельность сводится к поиску оптимальных способов и путей к достижению какой-либо цели. Разумность и набор целей вместе с мотивированностью в этом смысле могут быть рассмотрены как пара осей на плоскости, а конкретные точки этой плоскости представляют конкретных разумных агентов с определёнными характеристиками. Все точки такой плоскости представляют логически всевозможных разумных агентов - впрочем, для реальных агентов должны быть некоторые ограничения. По всей видимости, например, очень глупой системе невозможно иметь очень сложную мотивацию — хотя бы потому, что подобная мотивация предъявляет значительные требования к ресурсам памяти. Вообще, чтобы некий агент имел определённый набор мотиваций, этот набор должен быть функционально интегрирован в его систему принятия решений, что опять предъявляет определённые требования к вычислительным мощностям - и, по всей видимости, к самому интеллекту агента. Что касается разумных существ, которые могут изменять сами себя - то определённые ограничения должны иметься и для них - так, например, умное существо, желающее стать глупым долго умным не пробудет. Но в целом эти ограничения не затмевают основную идею, которую можно выразить так:

**Тезис ортогональности**

*Разумность и мотивированность - это два ортогональных параметра, которые для разумных агентов могут свободно принимать самые разные значения. Другими словами, высокий или низкий уровень разумности в принципе может сочетаться с самыми разными целями и самой разной силой воли.*

Для примера можно вспомнить теорию мотиваций Юма. Девид Юм полагал, что одни лишь убеждения (то есть - уверенность в том, что некое деяние желанно) не могут побудить человека к действию; от человека требуется некоторый уровень страсти к некоторой деятельности[2]. Это послужит ответом на одно из распространённых возражений против ортогонального тезиса - что, дескать, достаточно большой уровень интеллекта непременно приведёт к приобретению определённых убеждений, и что эти убеждения непременно повлекут за собой некоторые побуждения к определённым действиям. Мы - вслед за Девидом Юмом - отвечаем "нет": убеждения отдельно - а мотивации отдельно.

[2]Касательно аргументов за теорию мотиваций Юма - смотрите труды Смита(1987), Левиса(1988) и Синхабабу(2009).

Несмотря на то, что в поддержку ортогонального тезиса легко привлечь теорию мотиваций Юма, мы не будем основываться на ней. В частности, мы не будем настаивать, что убеждения сами по себе никогда не могут породить определённые действия. Можно предположить, что достаточно умный агент может быть мотивирован выполнять определённый план действий при условии, что у него есть определённые желания достаточно большой силы. Ещё один способ, при котором ортогональный тезис останется верным - даже если теория мотиваций Юма не верна - так это если приобретение достаточно высокого уровня интеллекта вовсе не обязательно приводит к приобретению тех убеждений, которые сами по себе будут мотивировать на определённые действия. Третий способ, по которому тезис ортогональности может оказаться верным даже если теория Юма окажется ложной - это если окажется возможным создать когнитивную систему (или, говоря более обще, "оптимизационный процесс"), управляемый развитым разумом, но имеющий столь чуждое людям строение, что в нём не будет функциональных аналогий того, что люди называют "убеждениями" и "желаниями" - но при этом устройство этой системы позволит ей стремиться достичь любую заданную конечную цель.

Ортогональный тезис - в том виде, в котором он сформулирован здесь - критикует связь между мотивированностью и разумностью - а точнее сказать, между мотивированностью и рациональностью (или между мотивированностью и рассудком). Здесь стоит обратить внимание, что многие мыслители используют слово "рациональный" в смысле "нормально мыслящий" - в то время как у нас здесь оно будет использоваться в смысле "способный к логической обработке информации". Например, в "Причины и Персоналии" Дерек Парфит соглашается с тем, что базовые предпочтения некоторой системы могут быть иррациональны - и делает это он на примере, называемом "Безразличие ко следующему вторнику".

**Представим себе некоторого гедониста, который усердно беспокоится о своих будущих ощущениях. За одним исключением, он в равной мере беспокоится обо всех моментах будущего. И исключение это связанно со следующим вторником. Так, каждый вторник он проявляет обыкновенную заботу в отношении всего, что с ним может случиться. Но он никогда не заботится о том, какая боль или какое удовольствие будет ожидать его в следующий вторник... Это его безразличие - просто голый факт. И когда он планирует своё будущее, то непременно предпочитает великое страдание на следующий вторник самому маленькому неудовольствию в любой другой день (Парфит, 1984)[3]**

[3]см. также Парфит, 2011

Так, некий агент оказывается равнодушен к собственным страданиям, коль скоро они выпадают на следующий вторник. Для наших целей, мы не должны принимать позицию Парфита о том, что это иррационально - постольку, поскольку мы допускаем, что подобное поведение не обязательно свидетельствует о глупости агента. Под "интеллектом" здесь мы имеем в виду нечто вроде инструментальной рациональности - умения предвидеть, планировать и вообще рассуждать. Воображаемый агент Парфита, проявляющий "Безразличие ко следующему вторнику" может демонстрировать безупречную инструментальную рациональность - и, как следствие, быть весьма интеллектуальным - даже если ему будет недоставать "здравого смысла" - чего мы могли бы потребовать от полностью здравомыслящего агента. Следовательно, этот пример не подрывает ортогональный тезис.

Продолжая рассуждения - даже если есть некоторые объективные нравственные факты, которые могут постигнуть полностью рациональные агенты - и даже если эти нравственные факты будут сами по себе как-то мотивировать тех, кто их узнаёт, поступать целиком в соответствии с ними - даже это ещё не будет подрывать тезис ортогональности. Тезис может оставаться верным, если некий агент может иметь безупречную инструментальную рациональность - но так, что ему будет недоставать рационального целеполагания - или каких-то других способностей к рациональному мышлению, которые необходимы для познания объективных нравственных фактов. Или наоборот - если какой-то агент может оказаться разумным, или даже сверхразумным - но при этом не владеть в достаточной мере инструментальной рациональностью.

Одной из причин, по которой мы фокусируем своё внимание на интеллекте - или инструментальной рациональности — это то, что оно представляет собой наиболее значимое понятие, когда мы пытаемся выяснить - как будут себя вести различные виды систем. Например, по разным причинам могут оказаться важными такие вопросы - будет ли их поведение считаться рациональным с человеческой точки зрения - или нравственно приемлемым. Также, подобные вопросы не должны заслонять возможности того, что могут появиться некоторые когнитивные системы, которые не будут удовлетворять каким-то критериям разумности - но которые тем не менее окажутся очень сильными и смогут оказать серьёзное влияние на мир[4].

[4]Ортогональный тезис утверждает, что практически любая комбинация разумности и целей возможна; но это не означает, что сверхразумный агент легко будет наделить какими-то произвольными или приемлемыми для человечества целями - даже если нам известно, как сделать его разумным. За дополнительной информацией обращайтесь к трудам Дьюи (2011) и Юдовский (2011).

Сервисы полезные при работе с русским текстом

Istio http://istio.com/ — проверит орфографию, посчитает количество знаков, ключи, плотность и другие seo-показатели.

Readability http://ru.readability.io/ — оценит читабельность текста. Именно здесь вы узнаете, будет ваш текст понятен простому обывателю или нет.

8nog http://www.8nog.com/counter/ — посчитает знаки и удалит двойные пробелы.

Typograf http://www.typograf.ru/ — простой и удобный типограф, который сделает красивые кавычки и превратит дефисы в тире.

Glvrd https://glvrd.ru/ — поможет отшлифовать текст в информационном стиле. Подходит для рекламы, новостей, инструкций, писем и коммерческих предложений. Не подходит для стихов и художественной прозы.

Test-the-text http://test-the-text.ru/ — еще один ресурс для проверки текста в информационном стиле.

Zenpen http://www.zenpen.io/ — минималистичный онлайн-редактор (когда не хочется загружать Google Docs и Word).

Спеллер https://tech.yandex.ru/speller/ — проверяет орфографию в русском, украинском и английском тексте.

Вебмастер https://webmaster.yandex.ru/content/ — сообщает «Яндексу» о вашем новом оригинальном тексте.

Вордстат https://wordstat.yandex.ru/ — помогает подобрать ключевые слова.

Translit http://translit.net/ — переведет текст в транслит и обратно.

Topwriter http://www.topwriter.ru/comparison/%20http://q99.it/8oxsR5p/ — сравнивает два текста между собой (полезно для рерайтеров).

Speechpad https://speechpad.ru/ — перевод аудио в текст (не идеально, но интервью расшифровать можно).

Findcopy http://findcopy.ru/ — проверка уникальности текста (результат проверки можно получить в виде ссылки).

Synonymizer http://www.synonymizer.ru/ — поможет подобрать синоним.

Wordassociations http://wordassociations.ru/ — сервис подбора словесных ассоциаций.

Text http://text.ru/antiplagiat — проверка текста на антиплагиат.

Оrfogrammka http://orfogrammka.ru/ — веб-сервис проверки правописания.

Quittance http://quittance.ru/tautology.php — отыс­ки­ва­ет в тек­сте подозрительные ме­ста на пред­мет од­ной из са­мых рас­про­стра­нен­ных сти­ли­сти­че­ских по­греш­но­стей: рас­по­ло­жен­ных близ­ко по тек­сту фо­не­ти­че­ски и мор­фо­ло­ги­че­ски сход­ных слов (так на­зы­ва­е­мая неча­ян­ная тав­то­ло­гия).

ВААЛ http://www.vaal.ru/show.php?id=125 — может пригодиться поэтам и ораторам, чтобы проанализировать подсознательное воздействие текста своего выступления. Оценивает текст любого жанра по многим параметрам. В свободное обращение выпущена версия программы ВААЛ-мини.

Poem Parser http://litsait.ru/forum/thread66.html — благодаря программе вы сможете узнать, каким стихотворным размером вы написали очередной шедевр, а также не ошибиться с длиной рифмующихся строк.

TextReferent http://www.analyst.ru/index.php… — автоматическое реферирование английских текстов. Обработав текст и проанализировав частоту появления в нем отдельных слов, программа вычленяет из него основные для понимания смысла фразы. Демоверсия бесплатна для скачивания и работает только с английским языком.

Neogranka/Stihi http://neogranka.ru/podbor_rifmy.html — позволяет выбрать рифму, подходящую под ударение нужного слова, а также может заняться корректировкой стихотворного размера.

Stihi http://www.stihi.ru/assist/ — более актуальный и ежедневно обновляемый онлайн-подборщик рифм. Но с его рифмами нужно быть осторожным, так как за основу словаря берутся стихи пользователей сайта.

Selenium RC, how to scroll dynamic loaders

public String loadAll(String xpath, int sleep) {
      int newCount = 0;
      int oldCount = -1;
      while (newCount != oldCount) {
          try {
              String script = "function qqq(){ var Res = document.evaluate(\"" + xpath + "\", document, null,      XPathResult.ANY_TYPE, null ); "
                      + " var t = Res.iterateNext();"
                      + " var i=0; "
                      + " while (t) { t.focus();i=i+1; t =Res.iterateNext(); }"
                      + " return ''+i;"
                      + "}"
                      + "return qqq()";
              System.out.println(script);
              WebElement element = driver.findElement(By.tagName("html"));
              System.out.println(element);
              String s = (String) ((JavascriptExecutor) driver).executeScript(
                      script, element);
              oldCount = newCount;
              newCount = Integer.parseInt(s);
          } catch (Exception e) {
              System.out.println("Error in loadAll()===>" + e);
          }
          try {
              Thread.sleep(sleep);
          } catch (Exception e) {
          }
          System.out.println("Focused at oldCount=" + oldCount);
          System.out.println("Focused at newCount=" + newCount);
      }
      return "" + newCount;
  }

(no subject)

Если поставить на страничке iframe 1x1 px в котором открывать вашу страничку на одноклассниках, то можно увидеть в разделе "гости" многих посетителей вашего сайта поименно.

Dectum sapienti sat est!

(no subject)

Спасибо Демчогу за наводку:


.Для всех этих людей США – выше обсуждения. Это не проявление скромности или смирения, это в чистом виде поведение холопов. Они просто не смеют смотреть на господина.

Это не их дело решать, что тут деликатес — хамон или чизбургер. Это хозяйское, а стало быть — свято.

Это просто преклонение перед сильным и богатым. Твари дрожащей перед тем, кто право имеет. В том самом смысле, когда старушек топором.

Раб не может объяснить непонятное ему поведение, кроме как путём приписывания постигаемому объекту ещё худшего рабства.

Европа сделала из своей и всемирной истории выводы, диаметрально противоположные выводам, сделанным русской цивилизацией, — они решили пойти по пути вынесения рабства на аутсорсинг — в Азию, Африку и Восточную Европу. Европа решила найти в пирамиде угнетения комфортную нишу, вылизывая то, что сверху и компенсируя унижение тем, что заставляет лизать себя снизу.

http://www.odnako.org/blogs/o-proishozhdenii-evrorusskih/comments/

Кухонная аналитика. Индекс страданий и wolfram alpha.

Индекс страданий(misery index) является суммой инфляции и безработицы.

Его можно легко вычислить и визуализировать с помощью чудесного сервиса wolfram alpha

Пример: Кто больше страдает, молдоване или румыны?

http://www.wolframalpha.com/input/?i=%7B+%7Bunemployment+rate+Moldova%2C+1990-2014%7D+combine+%7B+inflation+rate+Moldova%2C+1990-2014%7D%7D+%2C+%7B+%7Bunemployment+rate+Romania%2C+1990-2014%7D+combine+%7B+inflation+rate+Romania%2C+1990-2014%7D%7D+

К сожалению, не получается наклаывать много графиков одновременно во free version

;0((

(no subject)

Локализация  Мицгола:

Заниматься политикой в Молдове-западло. Не заниматься-сдаться на милость скотам.
Уехать-предательство предков. Остаться- безумие.
Ситуация "оба выбора хуже", и в ней вижу я торжество Сатаны.
Видимо, вся эта ситуация гораздо шире. Кто предастся в Молдавии ужасу и отчаянию
и покончит с собою, тот совершит смертный грех и тем послужит торжеству Сатаны.
Однако, весьма вероятно, и сам факт жизни в Молдове также служит уж злу, служит
почти неизбежно. Может быть, даже и не только в Молдавии,но и во всём мире в целом.
Кстати, отдельные дурни от этого кидаются в ненависть к Молдове, тогда как надо
испытывать это чувство разве что по отношению к Сатане и к легиону бесов его,
включая бесов вочеловечившихся. (Особенно именно вочеловечившихся.)