Category: технологии

Category was added automatically. Read all entries about "технологии".

Об естественном интеллекте

Планета Земля, как хорошо известно, насыщена жизнью. От самых простейших представителей, амеб и бактерий, до нас с вами человеков - венцов Эволюции.

Так вот, любой представитель живой фауны (да и флоры), даже самый простейший, ежеминутно и ежесекундно демонстрирует естественный интеллект во взаимодействии с окружающей средой, выполняя вполне неслучайные действия. Даже самая простейшая амеба демонстрирует эту компетенцию.

Что из этого следует? А из этого следует, что чисто математические принципы, по котором организован естественный интеллект, должны быть одновременно просты, и одновременно устойчивы.

Простота необходима просто потому, чтобы реализовать это даже в амебе, на очень малом физическом носителе. А устойчивость необходима, чтобы это вообще могло появиться и непрерывно функционировать. Я толкую о том, что если для проявления интеллекта нужны какие-то сложные неустойчивые навороченные условия, то очевидно, что интеллект не мог бы ни развиваться, ни тем более само-зародиться.

Простота и устойчивость. Вопрос, почему же мы до сих пор не поняли как оно устроено? Повторюсь - там не должно быть ничего сверхсложного, иначе бы ни нас конкретно, ни жизни в целом, вообще не было бы. Тут можно правда поспекулировать на тему ИД. Например, если наш мир симуляция, то эти самые внешние принципы сначала были изобретены внешним демиургом, а потом реализованы в нашем мире. Но легко видеть, что даже если решение было сложно придумать, после того как оно таки придумано, оно должно быть достаточно простым, чтобы его можно было реализовать. А значит, мы опять таки должны иметь прекрасные шансы его понять и воспроизвести.

Резюмирую, естественный интеллект должен быть очень простым, и очень может быть, что уже очень скоро, мы будем удивляться почему нам так долго не удавалось понять его базовые принципы, которые скорее всего можно будет изложить в будущем в небольшой брошюре. Понятно, что тогда разница между "естественными" и искусственными интеллектами (которые мы безусловно хотим создавать) будет очень условной и заключаться по сути в материалах физического носителя.

Их высказанного тезиса следует и практическое следствие - думайте просто. Все должно быть устроено на простых, но мощных принципах. Если принцип недостаточно прост, значит, скорее всего это не тот путь, который использовал окружающий нас мир.

конспирология нейронных сетей

В настоящее время изучаю, что такое нейронные сети и текущее состояние поля.

Кстати, никто не видел каких-нибудь введений(видео или текст) именно с точки зрения математика, а не практика-компьютерщика.

Однако, вот что изумляет. Как известно, прорыв состоялся в 2012 году, когда пара аспирантов Хинтона (один из ведущих специалистов в области нейронных сетей последние 30 лет) настроили буквально на коленке сверточную нейроную сеть (идея ЛеКуна, но в одном из видео Хинтон сделал ремарку, что он сейчас недоволен, что все ломанулись именно в сверточные сети, хотя не пояснил почему) и выиграли конкурс по распознаванию картинок, уменьшив ошибку с 25% до 16%. В настоящее время ошибка уменьшились до 3.5%, что лучше, чем распознает человек с базой 4.5%.

Так вот нейронные сети сейчас применяются в каждом утюге, но что интересно, когда начинаешь знакомиться, с деталями, оказывается что все концептуальные идеи были предложены еще в 60-х, а все технические вещи по сути проделаны в 80-х. Но почему-то понадобилось еще 30 лет...

Вот например, идея представления слов (словосочетаний, предложений) языка как векторов и близкие по значению слова должны соответствовать близким расстояниям между векторами, тоже идет из 60-х.

Реально куда не плюнь, люди используют уже накопленную базу идей и разработок 30-50 летней давности. Возникает, вопрос а почему? Ведь получается это гигантский факап. То есть, все что появляется сейчас, могло появится 30(50) лет назад.

Вы скажете - а как же компьютерные мощности и размеченные данные. Так вот - не покупаю я этот аргумент. Сплошь и рядом оказывается, что текущие нейронные сети преспокойно тренируются на базах всего в несколько тысяч или десятков тысяч образцов, причем занимает это несколько дней современной видеокарты. Да, 30 лет назад такого не было на каждом столе. Но простите, а как же военные и государственные компьютеры. Когда говорят, что сегодняшний процессор в смартфоне эквивалентен суперкомпьютеру Крей в 1985-м я делаю вывод что на этом суперкомпьютере или кластере нейронная сетка могла тренироваться еще 30 лет назад. Нужны миллионы изображений? Во-первых, как оказывается вовсе не миллионы, во вторых, а в чем собственно проблемы при военных бюджетах современных стран. Посадить 1000 клерков размечателей и пакет в миллион размеченных фото будет готов через неделю. Вон, Байду вообще всех перехитрила, сначала введя сервис распознавания окружающего через телефон, попросту посадив 400 вьетнамцев, а потом, когда они набрали базу, заменив их нейронной сетью. 400 вьетнамцев может потянуть даже не транснациональная корпорация, а вполне средняя фирма, не говоря уже о правительственных ведомствах.

То что сейчас каждый бомж может тренировать нейронные сети транслируется, что 30 лет назад это спокойно могло делать NSA и Пентагон, и должно было делать. Но почему то не делало. И причины две: или глупость или конспирология.

Ученое сообщество же в истории выглядит великолепно - за абсолютно смешные деньги(по сути зарплаты групп Хинтона и ЛеКуна) они подарили человечеству технологии, которые уже сейчас приносят миллиарды, а в будущем будут возможно приносить триллионы. Честно, маленькое подсообщество из нескольких десятков(сотен) ученых скорее всего окупило все затраты на фундаментальную науку, сделанные в 20-м веке. Это к вопросу, а зачем она нужна, фундаментальная наука. Но на самом деле очень интересный вопрос другой - а что еще, сравнимое с нейронными сетями, пылится на полках научных библиотек? То есть сделано, но не неизвестно. И еще более интересный - сколько не было сделано, из-за "оптимизаторов работы научных бездельников".

К вопросу об ограниченности ресурсов

Вынесу из комментов свою ремарку

По поводу ограниченных ресурсов. Энергетические ресурсы солнца составляют 3.86*10^26 Вт. Если по простому, каждому текущему жителю земли можно выдать больше, чем потребляет на данный момент все человечество, и это исчерпает только лишь небольшую часть.

Проблема сбора этой энергии лежит исключительно в инженерно-экономической области. Никаких прорывов не нужно. Все технологии уже есть, и очень давно. У человечества нет и не предвидится никакого РЕАЛЬНОГО недостатка ресурсов в ближайшие несколько миллиардов лет.

Нейронные сети и АИ

Скажите, а я правильно понимаю, что в последнее время наблюдается взрыв практических результатов по применению нейронных сетей в условно говоря задачах слабого АИ (распознавание букв, слов, лиц, котов и т.д. и т.п.). Причем это буквально буквально как бы не последние 5-10 лет. Но я вот чего не пойму - но ведь концепцию предложили хрен знает когда, много десятков лет назад. И как я понимаю никаких фундаментальных прорывов в недавнем времени не было. То есть сейчас реализуют схемы как их и предлагали изначально. Так чего ждали то столько времени? Может и с другими направлениями по АИ та же петрушка - все это вполне работоспособно, просто дальше разговоров никто не шел. И сейчас будут появляться парсеры естественных языков и прочие мелочи согласно лекалам концепций 40-50 летней давности.

Вики-технологии

Вопрос такой - почему не развиваются вики технологии. Не развиваются вот в каком смысле. У вики-проектов сбора информации наблюдается вполне очевидный предел качества, дальше которого ничего не идет, а только ухудшается. Причем чем более известное понятие, тем слабее соответствующая статья. При этом по узкоспециальным вопросам в виках можно нередко найти вполне неплохой и доступный обзор, но как только вопрос более общий и более народный, то там нередко вообще ничего нет толкового.

Я думаю, не я это первым заметил, но ведь проблема очевидна, не так ли. Какие методы по преодолению этого барьера предложены?

Например, я бы предложил конкуренцию статей по одной и той же теме с выделенными редакторами. То есть на одном и том же ресурсе не одна статья по теме, а несколько.

Более того, обсуждение информационного наполнения надо вынести в комментарии к статье и это обсуждение составляет с собственно статьей единое целое, а не рабочий момент. То есть, споры по вопросу гораздо более информативны для внешнего интерессанта, чем победа одной из точек зрения, даже консолидированной. Другими словами, надо не сглаживать, а наоборот заострять углы, то есть противоречия в разных точках зрения на вопрос.

Вы из МИТ!

Не могу не запостить, из известной книжки по подготовке к интервью:

Interviewer: "Alright, you are from MIT; you must be a quantitative type of person." Interviewee: (confidently, after a slight pause). "Yes, indeed." Interviewer: "Give me the decimal equivalent of 13/16 and 9/16."

Update: А вот положа руку на сердце многие ли помнят как решать обратный класс задач и перевести, скажем, десятичную дробь 0.1234(56789) в обыкновенную (напомню скобки означают периодичную часть).

Гарвард он-лайн

Такая тема. Как то давно, несколько лет назад, я видел ссылку вида: MIT выложил часть своих курсов в он-лайн, с лекциями, материалами, упражнениями, видеозаписями, ну и что-то в этом духе. Я еще не гуглил, но думаю, что оно до сих пор где-то лежит, и кроме того наверняка и другие университеты делали похожее. Так вот вопрос: и кто этим пользуется? Казалось бы, ведущий университет мира предлагает заочно приобщиться, так сказать, к источнику знаний. Налетай, торопись!

Однако я не видел ни одной ссылки вида: "а вот это объяснено в курсе MIT", или "прочитайте материалы лекций из такого-то курса". Собственно и я сам подозреваю, что не буду активным пользователем того, чего найду.

А почему так. А все просто: образовательное учереждение, даже самое плохонькое, не говоря уже о грандах, помимо собственно предоставления общения с умными людьми по заданному кругу вопросу, попутно дает искусственную мотивацию вида "пройти и сдать курс". Редким, очень редким людям удается осилить предмет, без допмотивации этого или иного рода. Вот потому Гарвард может транслировать содержание хоть всех своих лекций он-лайн, но умнее от этого остальной мир, если и станет, то очень ненамного.

Update:

http://ocw.mit.edu/index.htm

Civilization 5

Интересно. В сентябре, оказывается, выходит Civilization 5, и судя по паре прочитанных preview, звучит весьма многообещающе: добавлено многое, и именно в сторону peacemonger-ов, к коим я себя причисляю. Однако ключевым, конечно, будет ли достигнуто качество AI в данных сеттингах, и естественно, баланс начала игры. Я вряд-ли сам буду играть ранее зимы, но посоветовал бы запоминать патчи, ибо предыдущая Civ 4 на разных патчах, это весьма разные игры.

Update 16.08.2010

Гмм, почитал кое-какие review и форумы. Энтузиазма здорово поубавилось. Дело в том, что серьезно похоже на возврат к самой неудачной игре серии - третей. Например, такое впечатление, что возвращается экстенсивный микроменеджмент. Почему - на каждом тайле будет только один юнит, плюс за дороги серьезно собираются брать деньги. Другими словами, если у вас есть 10 юнитов, то каждый ход вам надо думать над позицией каждого, ибо не получится загнать их всех в ближайший город и забыть до активных действий, и плюс еще надо будет обходиться тем минимум дорог, что построено в режиме экономии.

Кстати, еще хуже микроменеджемнета - автоматический губернатор городов, если его нельзя будет отключить.

Далее, города увеличиваются по одной клетке, и этот процесс зависит от некой направленности предыдущей деятельности игрока в городе. Другими словами, каждый город надо будет пестовать перед расширением, чтобы наконец получить тот вкусный луг, или ту плантацию бананов. Да, в этом будет немало фана, но еще больше микроменеджмента (из-за которого я в свое время не смог доиграть до современной эпохи ни одной игры в Civ 3).

Что нравится из заявленного: независимые города, которые обогатят дипломатию, и потенциальный источник плюшек (ибо нередко выгодно пользоваться читерством компа, чем брать город себе).

Сомнительными однако, представляются ограниченные и исчерпаемые источники ресурсов. Во всяком случае работать это будет лишь если источники ресурсов будут не только исчезать, но и во множестве появляться (причем чаще, чем в Civ 4). Короче, здесь я вижу первый кандидат на исправления в патчах.

Вообще, почти уверен, что Ванилла сентября, и пропатченный к зиме вариант игры будут различаться как небо и земля.

Почти уверен также, что АИ будет изначально слаб (в текущей команде, похоже, нет сильных игроков-тестеров), и это поправят в лучшем случае даже не к зиме, а гораздо позже.

Короче, как и Sulla (известный игрок в коммьюнити, принимавший серьезное участие в разработке и тестировании Civ 4), я пожалуй, теперь скептичен.

Update: 19.08.2010

Ну еще пару мыслей-впечатлений от чтения обзоров.

Как известно, теперь будет: один юнит - один тайл. Другими словами, велика вероятность логистичекого nightmare на линии фронта. Причем именно между своими войсками. Простой пример: на линии фронта у вас стоят средненькие юниты на всякий случай. Соседняя держава объявляет войну. И вам бы очень хочется заменить этот фронт на современных. Получится что-то вроде игры 15: поменяй два квадратика местами, при полном поле.

О хороших предвкушениях: мне как-то пока априорно нравится идея развести золото и науку. Просто, слишком уж очевидно в предыдущих сериях ситуация, когда по дефолту все на науку, а остальное по остаточному принципу, когда война прижмет или еще там что. Золото, впрочем, кажется, можно будет конвертитровать в науку через научное соглашение о сотрудничестве. Впрочем, здесь я несколько пессемистичен. У меня есть серьезное опасение, что AI будет подсирать игроку, разрывая, пусть и к своей крайней невыгоде, соглашения перед их окончанием.

На что нужно золото: на покупку тайлов, на содержание и апгрейд войск, на содержание зданий и дорог. Последнее, кстати, из новоидиотизмов: о том, что в цивилизации де была проблема задорожья, когда в индустриальную эру каждый тайл был покрыт дорогой, я узнал из собственно презентаций Civ 5. Ну да, ну да, какая глупость - нефиг в каждую провинцию дорогу проводить, итак перебьются. Короче, от концепции третей цивилизации, где построенная дорога увеличивала доход золота с тайла, перешли к она, оказывается, будет стоить золото в ход. И да, дескать, и в индустриальную эру передвигайтесь по своим девственным территориям (а ведь еще один юнит на тайл, то есть и не перебросишь всю армию по одному маршруту). Я думаю, строить дороги все равно будут как и раньше, и к концу игры все будет застроено. Ну, а это как бы налог, и думаю, содержание дорог подправят или вообше уберут в патчах или аддонах.

Нравится, что города будут больше (до 37 тайлов), хотя как я понимаю, их разрастание будет затруднено ограничениями на пищу и частично на счастье. Но с последнем я думаю, бороться научаться, ибо ресурсы роскоши, здания, цивики. При этом я скорее положительно оцениваю, что предел счастья общий на всю империю - меньше микроменеджмента.

С великими людьми пока недостаточно инфромации. Правда, генерироваться каждый тип будет отдельно, и как бы не универсально для всей империи (то есть великих людей будет больше и значительно). Однако, тогда очевидно, что их должны были понерфить, и вряд-ли великий инженер будет давать автоматически вкусное чудо света. Частично, это подтверждается тем, что есть улучшения тайлов, для которых нужна великая персона, и эти улучшения как-то априорно не выглядят вменяемой альтернативой мгновенной постройке чуда.

Да, еще момент: один юнит на тайл приведет к тому, что нельзя будет вести оборонительную войну, забившись в городе, и ждать пока Stack of Doom компьютерного соперника разобьется о стены. Тут же поневоле им придется рассосредоточиться и занять все вкусные тайлы.

Важное изменение, к которому не пойму как относится - нет торговли технологиями, а значит и Tech Whore тактики: выбрал редкую технологию и поменялся на 2-3 другие. Однако, с другой стороны компютерные игроки делали это не в меньших объемах, и вполне известная фишка, что если запретить торговлю технологиями в Civ 4, то уровень сложности падает больше чем на единицу, то есть Император становится Монархом, Монарх Принцем, и так далее. То есть тактический момент торговли технологиями ушел, но не факт, что в сторону повышения качества игры компьютерных соперников.

Update 23.08.2010

Теперь о том, что может сделать игру реально хорошей. Это две вещи: Social Policies и City-States. Насчет второго я уже высказывался, и судя по всему, работа в среде дипломатии перешла от конкурирующих цивилизаций к малым городам-государствам. Обычные же цивилизации похоже пытаются сделать симулирующими игроков-людей, причем не просто игроков, а жадных подростков. Ибо как иначе можно оценить слова главного дизайнера, что АИ может заключить технологическое соглашение, изначально имея ввиду его невыполнение - смысл освобождение игрока (и самого себя) от лишнего золота перед войной. Другими словами, очень похоже на то, что реально никаких технологий через этот механизм получить будет нельзя. А с другой стороны, почти уверен, что собственно компьютерные цивилизации будут меняться золото на технологии like crazy. Другими словами, мы видим возвращение к концепции: они все против человека, что безусловно шаг назад по сравнению с Civ 4. По сути дела Research agreement это легитимный способ (особенно на высоких трудностях) дать АИ возможность "обмениваться" технологиями, не давая этой возможности игроку. Почему не давая, я уже сказал, что прямо сейчас дизайнеры говорят, что АИ будет обманывать, чтобы ты потратил золото, и ничего более. Другими словами, в отличие от Civ 4, не будет иметь большого смысла делать что-либо позитивное другим цивилизациям, ибо они уже декларированы как свиньи неблагодарные. Однако, дипломатия остается - отношения с City-States способны дать все те плюшки, которые мы хотим - ресурсы, золото, солдат. Механизм подлизывания довольно прозрачен и документирован. Например, в начале неплохо охотиться на варваров по заказу, потом воевать с другими цивилизациям, которые захватили City-State, а потом давать им независимость. Делать подарки золотом, наконец.

Теперь о самом вкусном. По сути дела в Civ 5 будет два технологических древа. Стандартное, когда технологии открываются за science, и второе, древо Social Policies, которое покупается за культуру, которая становится не менее важным ресурсом, чем science и тем более gold. ПО сути дела Social Policies открываются также как технологии на постоянку, и дают очень неплохие плюшки (например 33% к силе войск на родной территории - просто конфетка для peacemonger-ов, защищающих свои пенаты). Некоторые из них несовемстны, и надо думать изначально, что выбрать. Если открыть очень много, то можно просто выиграть культурной победой, которя в этом аспекте выглядит гораздо логичнее, чем в четвертой, потому что в процессе ты не просто идешь к победе, но и усиливаешь цивилизацию посредством плюсов от открытых Policies.

Термоядерная электростанция на взрывах

В связи с некоторыми последними дискуссиями по поводу космоса и яблонь на Марсе вспоминаются свои старые, еще школьные думы.

Вот одна из них. Термоядерная электростанция на взрывах водородных бомб.

Смысл понятен. Человечество давно (уже как почти 55 лет) овладело термоядерной энергией, однако в форме, которую она не имеет технической возможности контролировать. А именно, получается пучок энергии в несколько миллионов тонн условного топлива, и как его, спрашивается, довести до ума.

Как обуздать мегатонную бомбу? Как абсорбировать энергию от нее. Мегатонная бомба это ведь не ручная граната, а самая страшная вещь, когда-либо придуманная человеком.Collapse )