| 4:17p |
Юдковский о границах будущего и ресерчер OpenAI о джханах
Engineered superpathogens and classical shoggoth servitor cyborgs? It's hard for me to get into the headspace of someone living in the reality where proteins held together by static cling are the limit of technological possibility.
Humanity should care more about exotic states of consciousness and the huge variety of trip reports as strange glimpses of the future. The universe only matters insofar as the qualia it renders. The space of qualia is unimaginably big and we won’t choose to stay where we are.
We don’t know where we’ll be if things go well, but we know we won’t be on the tiny island of qualia most of us inhabit today. Luckily can choose to be temporarily visit one of many millions of other islands.
We are unlikely to choose those particular islands long term. They’re not a glimpse of the exact future we’ll exist in. But they’re a glimpse in that seeing lots of land gives you a better understanding of the space than never leaving a tiny (exotic in itself) island before dying.
If I had to guess, our future looks more like being able to island hop at will, able to travel vast terrain rather than planting down permanently. I don’t think our individual body-sense will make it very long, such a tiny fraction of qualia space involves body-sense.
I think we’ll likely look at our permanent individualism as sad. Why not merge and unmerge at will? I don’t think it’s nearly as hard as it sounds. It’s easy to play around fluidly with sense of self in radical ways in real-time even today just sitting in the quiet without drugs.
If I had to guess some of this is coming on a more like 20 year time horizon, not the 2000 year time horizon science fiction books talk about. Qualia is already so flexible even without any tech, I think qualia-engineering will be far easier than understanding the brain.
People worry about wireheading but I think solving pleasure will be easy and not the exciting part. I don’t think it’s the problem people worry about because clean-pleasure is anti-addictive, it heals and breaks all the other cravings you have. Pleasure is a good but tiny part.·
For thousands of years we’ve had tools to generate as much pleasure as you want on command (the jhanas) given a few months of practice, and most people that can do it end up kind of just not doing it so much, sometimes forgetting they can do it. It doesn’t destroy their life
The problems we worry about (our “self” dying, wireheading) just aren’t problems, the real problems (tanha/dukkha/suffering, clinging, not viscerally enjoying being alive) I think will be relatively easy to solve, and the whole rest will be artistic: what do we want to explore? |
| 4:20p |
И про технофобию Лема
Но почему так, ведь раньше все они жили вместе? И тут мы нащупываем подлинную Катастрофу, о которой молчит автор этой книги, но о которой сигнализирует всеми своими книгами Станислав Лем. Катастрофу, которая сделала возможной в том числе и Холокост. Это техника, техническое овладение миром. О техноскептицизме и даже техноалармизме Лема Волобуев упоминает мимоходом, в основном в цитатах, не связывая воедино в этом аспекте его творчество и судьбу. Между тем связь очевидна. Став свидетелем ужасных деяний рода людского в двадцатом веке, краха националистических, просветительских и коммунистических утопий, Лем не питал никаких иллюзий по поводу природы человека. Это по-прежнему обезьяна. И если обезьяна с палкой еще его более-менее устраивала, то обезьяна с гранатой, а тем паче с газовой камерой и атомной бомбой — решительно нет.
Более того, Лем, вслед за Хайдеггером и Толкином, проницательно разглядел антигуманистическую сущность техники. Она — не просто послушный инструмент в руках человека, но становится мерилом его самого. Теперь и человек оценивается механистически, как пресловутый винтик или шестеренка во всеобщем слаженном механизме, а наилучшим содержимым его мозгов считается программа — например, программа партии. Наиопаснейшим, по Лему, вторжением техники оказывается ее применение в социальной сфере, где, как на знаменитом «фелицитологическом полигоне» изобретателя Трурля из цикла «Кибериада», неизбежно получаются «прямоугольники, марширующие подозрительно ровным шагом».
Техника для Лема — антагонист всей его жизни. Уже пала коммунистическая система, уже свободна Польша, а Лем все пишет о каком-то «молохе», «мегабитовой бомбе», «фальшивом божестве технологии», отказывается пользоваться компьютером и интернетом. Это можно счесть брюзжанием пожилого человека, а можно — донкихотством одинокого героя, который еще в юности увидел, в каких монстров превращает людей техническая оснащенность и механизация жизни. Поэтому его в равной мере не устраивал ни социализм, ни капитализм; первый — своим машиноподобием, второй — деградацией под гипнозом технического комфорта. А о том, возможна ли для Лема альтернатива, мы уже писали ранее.
Если исследовать жизнь и творчество Лема с такого ракурса, становится ясно, что никаким просто свидетелем катастрофы он не был. Нет, он был ее историком, критиком, проницательным прогнозистом, оппозиционером. Он осмыслял и радикализовал, предупреждал и жил сообразно своим убеждениям. Целостность этой жизненной позиции Лема, к сожалению, не была замечена автором его новой биографии. Сделав своего героя пассивным свидетелем зримых исторических событий, Волобуев упустил активное осмысление им подспудных тенденций, которые, однако, эти события и порождают.Но почему так, ведь раньше все они жили вместе? И тут мы нащупываем подлинную Катастрофу, о которой молчит автор этой книги, но о которой сигнализирует всеми своими книгами Станислав Лем. Катастрофу, которая сделала возможной в том числе и Холокост. Это техника, техническое овладение миром. О техноскептицизме и даже техноалармизме Лема Волобуев упоминает мимоходом, в основном в цитатах, не связывая воедино в этом аспекте его творчество и судьбу. Между тем связь очевидна. Став свидетелем ужасных деяний рода людского в двадцатом веке, краха националистических, просветительских и коммунистических утопий, Лем не питал никаких иллюзий по поводу природы человека. Это по-прежнему обезьяна. И если обезьяна с палкой еще его более-менее устраивала, то обезьяна с гранатой, а тем паче с газовой камерой и атомной бомбой — решительно нет. |