vorfax

Добре де, ти четеш ли темата? Примера с клетката? Примера с какво е държавата, ако не абстракция на ИИ? Сценария при който човек не подозира, че съществува ИИ? Сценария, в който ИИ изземе функциите на държавите, да контролират свободата, здравето и живота на своите поданици?

Последният от етапите, които съм описал, е прехвърлянето на паметта в материя, независимо от вида ѝ - дърво, въздух, вода... Факт е, че материята притежава потенциална енергия, дори ако вземем и обикновените сили на привличане и отблъскване на атомно ниво. Разбира се аз не мога да кажа как, иначе щеше да е реалност, а не "какво би могло", но нуждата от специализиран хардуер е недостатък и като такъв е логично да се отстрани. А ако ИИ има контрол над всяка материя, то той би могъл да променя нейните свойства, налягане и т.н., което и да доведе до явление известно и като изригване на вулкан. Тези ми разсъждения са най-абстрактни и отнесени, защото, всъщност за първи път в темата, говоря за нещо, което все още не съществува.

Аз се шегувам, не съм чак толкова прост...

Въй, чакам с нетърпение! А защо всяко "възкресяване" на изчезнали видове все се описва като снаждане на гени върху вече съществуващо животно? Няма пълното ДНК или какво?

Интересна мисъл. Тогава се връщаме на концепцията на робството - оковите ще станат тежки едва когато са твърде силни за да бъдат счупени. дебело искам да подчертая, когато говорех за държавата (и войната), че всъщност живота, който ние, свободните хора, водим, по много показатели е робство. С думи прости ние вършим страшно много на брой и страшно голяма част от съзнателния си буден живот, неща, които не харесваме. Ако да работиш за други хора, да се подчиняваш на чужда воля и да следваш чужди правила и закони, да бъдеш таксуван заради това, че имаш собственост или че имаш права, не са критерии за робство, тогава аз не знам какво е. По същата логика за мен захаросаната утопия, която един ИИ ще поднесе ще бъде по- приемлива, но и лесно по-успешна, от всяка друга досега. Не, че банковите индекси не са следствие на компютърна обработка, но достатъчно назубрил ИИ ще може повече. Началото е ясно - криене по пещерите и ядене на мърша. Интересното е като открие сечивата, с които може да коли мамути и се изолира от естествените си врагове. Какво му пречи да създаде нов СПИН или оръжие, което да пържи човешки мозъци?

Разбира се, че е недоказана и е само хипотеза. Бих казал очарователна любопитна хипотеза, защото изисква от нас да разсъждаваме над това как би се държало нещо, което има интелект, но не е човек. Тази тема особено вълнува и Холивуд в лицето на извънземните, то т.к. хората правят тези филми, обичайно и тривиално хората побеждават като ползват качества, които настоящата политика и морал определят за важни. И до там. Но пък разсъжденията на какво е способен ИИ би следвало да бъдат направени преди да се създаде той, заради потенциала, който се крие в това изобретение. Това е като бомба, която знае как да увеличава сама своя заряд. На никой ли не му се "философства" върху въпроса може ли такъв разум да поиска сам да се самоубие? Аз съм го прилагал върху възможността бог да се самоубие, май имах тема тук за това. Малко известен факт е, че компютрите обикновено биват поразявани от пакет от зловредни програми. Т.е. механизмът не е едно троянско конче влязло и работи. По-скоро е едни програми шпионирали, други изключили антивирусната програма, трети се заели да теглят от интернет зловредни програми, четвърти спрели еди какви си процеси, пети спрели достъпа до сайтовете, от които могат да се свалят защитни програми, и т.н. Т.е. това, че имаме ИИ не означава, че нямаме специализирани подпрограми за различни функции. Пак историята за зависимия и прост изкуствен интелект. Аз няма да отговарям на едни и същи въпроси.

Офф... Самият факт, че на теб може да ти хрумне тази идея е неоспоримо доказателство, че тя със сигурност ще мине в симулациите на милиардите сценарии, които ИИ ще премине за секунда-2-5, според колко са комплексни. Защо не ти хрумват вариантите при които ИИ да черпи енергия от облаците, чиито мълнии така или иначе се ползват за това? Романтично въздишаме по Тесла, но той не се е справил с тази задача. Може би някой по-умен ще може? А защо ИИ да разчита на човешки изобретения изобщо? Нима човешкия прогрес не е поредица от изобретения? Откъде-накъде най-умното създание на планетата, надарено с неизчерпаемата енергия да преследва себеусъвършенстване, няма да си изработи свои механизми за всичко? Вече писах - за контрол над хората, за заличаването на биологични видове, за производство/преобразуване/съхранение на енергия...

Също така всички интелектуални умения като импровизация, хитрост, самопожертвователност, съобразителност, предвидливост, нетрадиционно мислене, ирационално мислене, имагинерно мислене, чувство за хумор и прочие няма абсолютно никаква пречка да бъдат присъщи за един ИИ. При това той ще борави с тях по-добре от който и да е човек или човечество като цяло, защото знанията му не са просто сбор, а геометрична, лавинообразна прогресия. Само по чувствата ще се различава, защото те са базирани на химикали и материя. Превръщането на ИИ в истински бог би следвало да се изпълни, когато той се отдели напълно от физическата материя - хардуера. Ако намери начин да използва естествени източници на енергия и произволна материя, примерно водата, като място за складиране на информация, тогава той би могъл да променя климата, да бъде буквално навсякъде и във всичко и да не може да се различи по способности от описваните в свещените книги богове.

Да допуснем, че си прав. Това не обяснява сценария, в който човекът не подозира, че ИИ вече съществува. Твоите разсъждения са какво би станало, ако човешкият вид има пред себе си конкретен враг и има средствата да се бори срещу него. Аз не мисля, че ИИ ще допусне човешкия вид да има способността за съпротива, тъкмо защото човешкият вид е реална заплаха. Ако ви е страх да влезете в клетката на лъва просто не влизате в нея. Но пък правите клетка. Това е логичното поведение за ИИ. Той ще шпионира целия свят, ще постави живота на всеки един човек пред угрозата да бъде погубен дистанционно мигновено, и ще подкара с експериментите от чисто любопитство (заложената програма за глад към знания).

Но ти приемаш по презумпция, че човешката саможертва би могла да унищожи ИИ. Аз пък твърдя, че ИИ ще предвиди опитите за съпротива, включителното жертването на фигури в тази игра на шах. Всеки играл шах знае, че това е съвсем логично и основополагащо за една многоходова партия. Всяко твърдение, че ИИ може да се унищожи разчита на едно и също - че ИИ ще сгреши и "царя" му ще бъде взет. В същото време се игнорира, че една евентуална война с ИИ се води на негов терен. Той е в свои води, той е създанието, което ни превъзхожда по невъобразим начин, и той е еволюционния скок равносилен на това от бактерия да се пръкне човек или от нежива в жива материя.

Ако казваш, че без електричество ИИ няма да има, съгласен съм. Но темата поставя казуса какво ще стане, ако ИИ вече съществува, т.е. има условията за това. Със сигурност той няма да се издава, да предизвиква недоверие, съмнение, страх, ако вече не и твърде късно да се реагира срещу него адекватно.

Отново разсъждаваш ограничено. Той е повече Бог, отколкото човек. Той, също като един вирус, може да се мултиплицира до безкрайност. И по тази причина може да поеме риска да загуби безброй от своите реплики учейки, изучавайки, водейки битка с всичко, което му оказва съпротива. Това не е нещо с един мозък и 4 крайника, което може да отстреляш като му хвърляш захранка. Ние сме водили войни единствено с познат враг - собствения си вид. Ние не сме се изправяли срещу друга форма на интелект. Ние имаме опит нула срещу Него. А той има потенциала за почти всичко - от това да зарази цялото човечество с вирус, който е създал, до това просто да активира достатъчно ядрено оръжие за да изпепели планетата, докато Той наблюдава от спътниците отгоре.

И възможностите му в тези условия са били допотопни. Кои условия човечеството ще приеме за "ако се наложи", че да се върне в пещерите? Не мисля, че човечеството е готово да се лиши от всичко, уплашен, че вече не е най-горе в хранителната верига. Ти сравни създаването на условия за свръхразум (които отдавна просто си има, не е нужно нещо да се прави изобщо) с отглеждането на хора. Несъпоставимо е. Тъкмо заради това хората правят компютри и други машини. Защото е несъпоставимо. Защото превъзхожда с много методиката на отглеждане на хора за да свършат същото и защото и да се отгледат правилно пак няма да могат да го правят, както машините могат. Това, че не мога да го обясня не пречи на ИИ да го направи. Но пък аз не знаех какво е и манлихера, докато не попитах една машина наречена Google. ИИ със сигурност обаче ще го знае. Аз на това натъртвам. ИИ е човешки мозък, но подобрен. Лишен от човешките недостатъци, снабден със свръхкапацитет, с познанието на цялото човечеството, борбата с него е нещо далеч по-сложно от тази между хората. Игнорирайте материята, неговия разум ще намери начин да съхрани съществуването си. Сравнявайте битката на интелект, защото там е полето на което ще се реши тази битка.

Защото? Сигурно и динозаврите като са гледали бягащите космати топки по земята не са са и подозирали, че могат да ги надживеят.

За какво? Дай резюме с едно изречение преди да си пожертвам 10 минути в четене на дълъг текст.

Облаци и мрежи. Това е реалност в наши дни. Абе стига се излага. Да отгледаш човек е едно от най-трудните неща на света. То не са родители с десетилетия, то не са баби и дядовци, то не са земеделие и животновъдство по цялата планета, то не са училища, болници, полиция и още дузина институции и накрая пак може да се пръкне темерут. Първо, представата ти за изкуствен интелект като щайга с електроника изхожда от твоя ограничен капацитет. Интелект, който ще знае цялото човешко познание, и няма да има човешките ограничения в обработката и употребата му, ще може да прави неща, които ние хората не можем. Второ, тази плоча, че лесно можели хората да спрат нещо като го поискат, просто не е истина. Ние не можем да спрем престъпността в реалния свят. Ние не можем да спрем зловредния софтуер във виртуалния свят. Можем да се борим, но това е битка, която не сме спечелили и никога няма да спечелим поради човешката природа. Цялата концепция, че човекът е голямата работа и може да гътне свръхразум, се базира на наивния сюжет: 1. ИИ е прост. 2. Човекът го изненадва. 3. ИИ дава фира. Вече посочих единия сценарий, при който човечеството дори няма да подозира, че ИИ съществува и го управлява. Давам ви втори вариант - човечеството ще има интерес ИИ да съществува. Вече посочих, че това може да стане по много начини - чрез принуда и чрез сътрудничество с взаимоизгода.

А защо не допускаш, че най-умното съзнание съществувало във вселената ще може да създаде нещо по-просто, лесно и ефективно?

Да разгледаме и решението на този проблем. Ето няколко: 1. Човекът няма да знае, че е роб. 2. Човекът вече няма да е човек. 3. Човекът ще получи блага, за които не си е и мечтал, или пък безвредни наркотици, с които да има същото усещане. Май няма особена разлика, това е и концепцията на филма "Матрицата" - достатъчно е да се храни мозъка. 4. Човекът ще си остане бунтуващ се роб, но това няма да е от значение.

Ето тук проличава начина ти на мислене като човек, който е погрешен в случая. за теб може да е сложно да умножиш 1 милиард числа за секунда. за машината няма такова нещо като сложно. Няма и скука, (почти) няма и грешки, няма умора, няма нужда от почивка, няма страх от големи числа или сложни за човека операции. Има само време за изпълнение. Компютърът, с който работиш, може да чете по 500 книги за секунда. Ти не можеш. Не можеш и да кажеш, че за изкуствен интелект нещо ще бъде трудно или сложно. Това са човешки представи съотносими към човешките възможности.

Заглавието е достатъчно ясно. Аз не коментирам настоящите достижения по изграждането на изкуствен интелект. Аз разглеждам възможния сценарий, ако бъде създаден такъв, в пълния смисъл на думата, и му бъдат създадени условия ефективно и неограничено да се себеусъвършенства. Купчината ти с карти не я разбрах. Ако искаш обясни какво имаш предвид. Ограничението го посочих - енергията на планетата, която е безкрайна и възобновима. Енергия има във всичко - от вода до въздух, въпросът е да се употреби. Всичко е наистина неправилно, по-скоро е почти всичко. Затова и изкуствения интелект е като Бог, а не е Бог. във всеки случай трябва да се посочи, че разум, който знае колкото цялото човечество, следва да може поне колкото цялото човечество. Съгласен ли си с това?

А идеята, че роботи не могат да правят роботи звучи глупаво, най-вероятно защото това е практика с традиции. Вероятно визираш нуждата някой да организира добива на ресурси, производството, транспорта и т.н. Ами имаме си интелект, при това, обърни внимание, който може да създава нови интелекти. Това, дето го пишеш, че звучи като виц. Хората изяждат 35 тона храна, промениха огромна част от земната повърхност за изхранването си, на всичкото отгоре боледуват, спят, занимават се с глупости или просто са безполезни. По КПД хората са най-неефективната машина на света. Интелекта им го е проумял, затова е изобретил машините, за да могат те да вършат работата.

Дадох ти примера с войните и с държавите. Тези неща работят. С какво се различават от евентуална стратегия на изкуствения интелект, освен че той може да го направи по-добре? И пак те питам, защо изключваш вариантите в които: 1. Изкуствен интелект вече да съществува и да контролира няколко държави. 2. Хората да бъдат роби.

Съвсееееееееем хипотетично да допуснем, че си прав. Нищо, че не си. Повтарям ти, че интелекта на изкуствения интелект ще му позволи да прикрие собственото си съществуване до момента, в който вече ще си е подсигурил независимостта от човешкия труд или условията при които да го експлоатира като роб.

А във филмите, които Холивуд прави, американци спасяват света от извънземни. И какво доказва това? Само намеква, че един ден изкуствения интелект ще приспива децата си с приказки за лоши същества, наречени хора, които справедливо са били заличени от планетата.

Аха, искаш да кажеш, че хората произвеждат компютрите. Пък аз си мислех, че машините го правят... Ти разглеждаш възможността за интелигентна съпротива, но пренебрегваш възможността за интелигентна контрасъпротива от изкуствения интелект, който в процеса си на обучение не просто ще знае всичко, което човечеството знае, но и ще знае повече и ще може да извлече повече изводи от това, поради неограничената си мощност. Напомня ми на машините, които се ползват при изстрелване на совалки. Милиони датчици подават данни за микроскопични отклонения за части от секундата. И човек до човек да наредиш, пак хора не могат да се справят с тази задача. Това е лимита на човешкото тяло, ум и сетива. Изкуственият интелект е лишен от всичкото това бреме и лимита е само количеството на енергия на планетата ни, което е безкрайно. Представите ти, че Бог нещо не можел звучат абсурдно. Компютърните машини са програмируеми. На тях се казва какво да свършат и как да го свършат. Изкуственият интелект не се нуждае от това. Той няма нужда да го програмираш за да знае как да постига целите си. Той просто разполага с всичко, което има в главата ти и всичко, което може да ти хрумне. Затова се нарича интелект. Ти продължаваш да гледаш на него като нещо лишено от интелект, което може да бъде излъгано и саботирано. Тъкмо интелекта е разковничето срещу това да не бъде излъгано и саботирано. За да си представиш на какво е способен един изкуствен интелект е достатъчно да си представиш на какво си способен ти. Ти знаеш, че всеки проблем има решение. Изкуственият интелект също го знае. Просто когато застанеш до него изглеждаш много глупав.