Морална машина

[Р. Теодосиев]

В журнала Nature е публикувано интересно проучване на MIT, което изследва моралните ценности на хората чрез експеримента Морална машина (http://moralmachine.mit.edu/). Представителната извадка се състои от 40 милиона източника на експериментални данни от 233 държави за период от 4 години.

Експериментът се основава на класическия „Проблем с тролея“. При него участниците трябва да решат кого да спасят от катастрофа. Дали да блъснат превозно средство в някаква физическа преграда и да убият пътника, за да спасят минувач, или да убият минувача, за да спасят шофьора. Вариациите на този казус са безкрайни и поставените условия могат да са изключително разнообразни.

В Моралната машина ситуацията е малко по-комплексна. Фокусът е върху автономните коли. Някои от сценариите, които се разглеждат, включват дали да се жертват животите на пътниците в колите, за да се спаси животът на престъпник, куче, коте и други.

Естествено най-много хора биха предпочели да спасят хората в автомобила пред животните. Интересното е, че хората са по-склонни да спасят живота на коте, а не на престъпник. Освен това хората по-често са спасявали младежи, отколкото възрастни.

Феноменът има и географска специфичност. Източните народи (арабските народи и азиатците) биха спасили възрастен човек, а не по-млад. Хората от Централна и Северна Америка са по-склонни да спасят живота на животно, а не на човек.

Функцията на тези експерименти е да се изяснят някои етични проблеми пред автономните коли, които рано или късно ще се появяват по пътищата.

Източник: Edmond Awad, Sohan Dsouza, Richard Kim, Jonathan Schulz, Joseph Henrich, Azim Shariff, Jean-François Bonnefon & Iyad Rahwan; The Moral Machine experiment; Nature (2018);

Източник:

[ramus]

според мен - опитите са да се реализира статистическа оценка за съставянето на алгоритми за "морал" и "етика"... А това е поредна стъпка към интергрирането на ИИ.

Не е работата само в самоуправляващите се машини, а въобще - по отношение на ИИ и развитието в тази посока... Може би колегата Сканер, ще се изкаже по-компетентно за това.

[Skubi]

https://life-kino.top/116398-pyataya-pechat-1976.html

Пятая печать

В названии повести и фильма использован образ из Откровения Иоанна Богослова (Отк. 6:9-10)

9. И когда Он снял пятую печать, я увидел под жертвенником души убиенных за слово Божие и за свидетельство, которое они имели. 10. И возопили они громким голосом, говоря: доколе, Владыка Святый и Истинный, не судишь и не мстишь живущим на Земле за кровь нашу?

При тролея аз бих згазил пешеходеца, защото шофйорът отговаря за повече души от тази на самотният пешеходец.....СМСМ

[ramus]

  On 5.11.2018 г. at 21:21, Втори след княза said:

и дали моралът ще е същия

Expand  

Тук става въпрос за 'друг тип морал' - основан на най-базовите ценности за човешките социални същества - това е запазването на "живота" от гледна точка на вида, през социалната негова призма. Касае се за взимане на решения за действие, основани на избор между различни "варианти". Изборът се основава на йерархията на ценности и динамичните изменения в нея, спрямо ситуационните конкретни условия. Взимат се предвид и възможните разновидности...

Газенето - "по-горе" - е заради "конкретиката на примера" - защото се съотнася до  обучението и залагането на алгоритмите за ИИ - сред самоуправляващите се автомобили. Както се вижда от горното - не е само въпрос до "логика"...

А вашите въпроси, чрез които вие изразявате прочита и призмата през която интерпретирате, са малко в друга посока от тази за която е примера по-горе. (разбира се - през моята призма на "виждане" )

Редактирано Ноември 5, 2018 от ramus

[Frujin Assen]

В конкретния случай става въпрос за пари). Ясно е, че самоуправляваните коли също ще се повреждат и ще трябва да прави избор- дали да сгази хора на тротоара и така да убие скоростта и да запази пътниците или да се издъни в стената и да убие шофьора. Въпроса е обществото да приема за правилен избора на машината, за да няма обществено недоволство, съдилища и огромни обезщетения. Та моралния казус ще се реши без морални дилеми- което е обществено приемливо- то ще е. 

Иначе от морална гледна точка въпроса няма правилно решение, когото и да жертваш, все е погрешно. 

[Skubi]

  On 5.11.2018 г. at 23:53, Frujin Assen said:

В конкретния случай става въпрос за пари). Ясно е, че самоуправляваните коли също ще се повреждат и ще трябва да прави избор- дали да сгази хора на тротоара и така да убие скоростта и да запази пътниците или да се издъни в стената и да убие шофьора. Въпроса е обществото да приема за правилен избора на машината, за да няма обществено недоволство, съдилища и огромни обезщетения. Та моралния казус ще се реши без морални дилеми- което е обществено приемливо- то ще е. 

Иначе от морална гледна точка въпроса няма правилно решение, когото и да жертваш, все е погрешно. 

Expand  

В 99% в житейските ни деяния става дума за пари.

Но в конкретният случай, опасявам се, че тази морална машина ще се програмира по-различни морали в зависимост на това в коя част на земята ще бачка....Тук навярно /понеже Тесли само по- и най-богатите ще ползват/, ще помита пешеходците защото те са много, докато колата и пътниците и са големи клечки и са много важни за обществото.....

Впрочем тук имаше не един случай от който само един го осъдиха на съд когато с Хамера си нарочно прегазва спиращият го милиционер. 

[ramus]

  On 6.11.2018 г. at 5:21, Skubi said:

ще се програмира по-различни морали в зависимост на това в коя част на земята ще бачка

Expand  

ние, хората сме по същия начин... "програмирани". Културите задават "морала", като задават 'ценностите и йерархиите от тях' с цел да регламентират и така определят и формират колективния живот. Без някаква конструкция  и "клетка" (опаковка), сред особеностите на самите потребности и потребители, груповия живот не би бил възможен.

Преди да се захващаме с "машините" и ИИ нека първо се огледаме ние, самите. Това е и смисъла на темата, поне според мен.

Ние, пишещите и четящите тук няма да променим с нищо решенията на един или друг, нито посоката на развитието. Но поне полезността може да се реализира на личния ни фронт. Разбира се - на когото му стиска, че то не е много лесна работа - както се разбира по практиката.

А колкото до машините и роботите - след като тяхното бъдеще все повече ще е "сред хората' е естествено да опитваме да ги "научим" на собствените си "правила"...

Редактирано Ноември 6, 2018 от ramus

[ramus]

Ние, хората ще се наложи да приемем машините сред живота ни. Ние, самите хора - бихме имали полза от това. Опитваме се да 'възпитаваме' новите си "човешки производни" и повечето се страхуваме от това че "нашите нови деца" ще пораснат и ще ни надраснат... защото те нямат много от нашите природни и психични ограничения. Но ние, самите хора, се опитваме да се справим с тия 'ограничения' и това е един от начините. Роботите и машините... са само част от опита ни да надмогнем някои граници - наши граници...

Това че се налага да се ориентираме сред все повече дилеми в изборите си на поведение, е защото информацията сред живота непрекъснато се натрупва и наслагва. Простичките казуси, с простички решения, вече не съществуват и само ги тътрим по инерция, особено хората които все по-трудно се адаптират към непрекъснатото усложняване.

Редактирано Ноември 6, 2018 от ramus

[Frujin Assen]

Рамусе, пак тръгна да витаеш из облаците. Роботите са всъщност нова джунджурия която за едни е възможност да правят пари, а за други средство да си улеснят живота.

[herkules]

  On 5.11.2018 г. at 21:21, Втори след княза said:

Защо е това газене на хора

Какво бихме заредили като отговор в морална машина на простичкия въпрос. "Ако харесвате жена/мъж и й/му предложите секс, това морално ли е?"

Може и по- конкретно: Ако сте филмов продуцент и амбициозна актриса идва при вас за да помоли за роля с къса пола, която не придърпва, когато се покачва нагоре, това знак ли е, че ви съблазнява? А дали тя ще мисли същото след 20 г. и дали моралът ще е същия?

Expand  

Значи! Според мен "морална машина" е абстрактно понятие. ИИ не притежава морални качества а изпълнява зададена програма. За това се нарича изкуствен, а не естествен интелект. Т.е. не притежава чувства характерни за човешките същества, при които морал и справедливост са са заложени като биопрограма в съзнанието. Така че, на въпроса: "Ако харесвате жена/мъж и й/му предложите секс, това морално ли е?" машината ще отговори според зададената и програма, а даден човек ще отговори според възпитанието си и статуквото, определящо морални норми на поведение  и средата в която живее! На въпроса относно филмовия продуцент вече има дадени многокранто отговори! Справка: - # МЕ ТОО! Може би понятията трябва да се предефинират, защото въпросите са много, а отговорите са едни и същи! Мъжът винаги е виновен и точка! И е неморално мъж да доказва своята невинност за въображаемо изнасилване или насилие към обвинилата (нарочилата) го жена след 20-40 години, защото е осъден от феминизма още преди да се роди. Според  радикалните-лумпенизирани феминистки, няма невинен мъж защото е мъж и са необходими закони, при които не трябва да има право да доказва невинността си! 

[Frujin Assen]

Херкулесе, това ми напомня вица (ама то си е баш истина) за сестрата. Като кажат един път, че сестра ти е курва, иди доказвай, че нямаш сестра.

[ramus]

  On 6.11.2018 г. at 9:44, Frujin Assen said:

Роботите са всъщност

Expand  

...онова, което всеки си привижда в тях. Роботите ... са просто роботи. За един - те са едно, за други - друго.

  On 6.11.2018 г. at 12:42, herkules said:

машината ще отговори според зададената и програма, а даден човек ще отговори според възпитанието си и статуквото, определящо морални норми на поведение  и средата в която живее!

Expand  

всъщност - и човека се "програмира" именно чрез 'възпитанието, статуквото и спрямо средата в която живее.

Нещо просто, което да напомня - точно емоционалните реакции, изрази и комуникативни сигнали бяха първите крачки на разбиране и съответно - на имитация и подражание. За справка - художниците-аниматори още от преди ДИСНИ и СОЮЗМУЛТФИЛМ са се научили чудесно да боравят с емоционалния "език" и неговото пресъздаване в нещо толкова елементарно - както са рисунките... Още от зората на куклените театри - е същото... Като ние хората реагираме емоционално дори и на куклата, рисунките и картинките - при положение че "те не ги излъчват обективно" и "от другата страна не е човешко същество", а реципиента привижда през един природно заложен механизъм с който той се ражда и ползва през целия си живот...

Това непрекъснато превъзнасяне на емоционалната компонента в човека е поради факта, че твърде много хора дори не познават собствените си емоции, като просто участват в тях, но нито ги разбират, нито познават, нито различават ясно.

И в момента са налице роботи, които да общуват с емоционален език. Това се постигна далеч преди да могат да накарат робот да прави салто, на два крака, например - както това вече постига уникалният експеримент и постижение на БОСТЪН ДАЙНАМИКС, както и в началото роботът на ХОНДА. Вече са налице твърде много примери за сериозни постижения, за да изпъква толкова силно и ярко само един от тях... 

 

[Skubi]

  On 6.11.2018 г. at 6:39, ramus said:

ние, хората сме по същия начин... "програмирани". Културите задават "морала", като задават 'ценностите и йерархиите от тях' с цел да регламентират и така определят и формират колективния живот. Без някаква конструкция  и "клетка" (опаковка), сред особеностите на самите потребности и потребители, груповия живот не би бил възможен.

Преди да се захващаме с "машините" и ИИ нека първо се огледаме ние, самите. Това е и смисъла на темата, поне според мен.

Ние, пишещите и четящите тук няма да променим с нищо решенията на един или друг, нито посоката на развитието. Но поне полезността може да се реализира на личния ни фронт. Разбира се - на когото му стиска, че то не е много лесна работа - както се разбира по практиката.

А колкото до машините и роботите - след като тяхното бъдеще все повече ще е "сред хората' е естествено да опитваме да ги "научим" на собствените си "правила"...

Expand  

Така е. Тук каквото и да Ти казват сме все още рая.....Докато подъниците на по- страните са КЛИЕНТИ минимум...

Много се говори за фертраде но за ферселс едва....Така се получава, че същите стоки тук са по-скъпи и лошокачествени от тези на същата фирма на запад....И живота /защото прахосаното време по-опашки и чакане на ред в офиси/ също, тук е много по-неценен от този на западните ГРАЖДАНИ.

Днес имах работа в един офис където ми казаха, че контрактът важи от днес...Аз питам защо не от 1-ви както е датирано на документът..... Казаха ми тогава би трябвало да направите през веб страницата им....Казах, че се опитвах но уви тяхният сайт не функционираше през празника....Също и с банката ми, макар и  голяма западна, като ги питам за проблемите, ми казаха ами домейна го прави други и затова не бачка винаги и по-добре лично да дойда и чакам часове....

Значи и сега вече роботи ни третират/робот те засича за превишена скорост, изпраща на друг да те намери в регистерите и дава предложение на един био асистент да те глобят за повишена сдкорост/, но другаде вече интелигентни дрончета дават предложение, да пуснат ракета или умна бомба върху теб или не....

Планират вече законът, с койти всички публични видео камери да се включат в единна ситема с полицейски надзор. Само малко ни липсва да дадем правата за решаване на роботите и тогава и господин Дред може да отиде в пенсия...

 

Редактирано Ноември 6, 2018 от Skubi

[Skubi]

  On 6.11.2018 г. at 14:05, Frujin Assen said:

Херкулесе, това ми напомня вица (ама то си е баш истина) за сестрата. Като кажат един път, че сестра ти е курва, иди доказвай, че нямаш сестра.

Expand  

Вицът ти е стар....

[ramus]

  On 6.11.2018 г. at 18:56, Skubi said:

Значи и сега вече роботи ни третират/робот те засича за превишена скорост, изпраща на друг да те намери в регистерите и дава предложение на един био асистент да те глобят за повишена сдкорост/, но другаде вече интелигентни дрончета дават предложение, да пуснат ракета или умна бомба върху теб или не....

Expand  

доста филми гледате... и параноите са се пробудили, с удобството на бързите обяснения за това че вие имате известни неудобства и си ги обяснявате с някакви напълно фабрикувани схеми взети от фантастични филми. Вероятно света ви изглежда ужасно несправедлив - с толкова много негативи в него, и то преплетени тясно сред вашето ежедневие.

Сред описаните ви примери никъде няма роботи. зад всичко описано стои напълно човешки интелект, като вие се фокусирате сред неговите инструменти и опитите му да прескочи сериозния за всички проблем с пристрастията. Огромен и сериозен проблем, който шества свободно и сред този форум, дори и сред тази тема.

[Skubi]

Това с Дредд съдия е писателско преувеличение, но останалото е вече практика. Има доста колеги на форума попитай ги колко време им отнема деянията с официалните власти. Например откриване и регистририне на частна фирма....В Англия 1/2 ден.  Тук поне 1 седмица с късмет мин 3 дена, ако всички офиси са отворени.

Що се касае за оригиналният въпрос който по този повод,

Направиха този експеримент /навярно със спонсорирането на тези които разработват технологията/

Значи. Ти, ако ти сложа копче в количката, накъде ще го щракнеш? Пешеходци или стена? Твое ще е решението и машината ще го изпълни.

Ще Ти помогна така изглежда на живо анимацията

 

Редактирано Ноември 7, 2018 от Skubi

[ramus]

Ок, мисля си че проблемите с откриването на фирма са проблеми на бюрокрацията. Всеки има подобни такива, вкл. и аз.

Бюрокрацията я има заедно с проблемите в нея, ... още откакто ги има държавите и нуждата от поддържане на ред в социалните порядки, регламенти, правила, норми... всичко това е за да не се допуска някъде по веригата някой си да бъде пристрастен или да използва влиянието си да взима решения, с идеята за контрол.  Отгоре на всичко - прости решения. Някъде дадени въпроси са уредени по-добре, на другаде - същите въпроси - по-сложно. Въпреки системата за кръстосан контрол, в нея непрекъснато се намират пробойни и всички ги обединяваме в общото явление КОРУПЦИЯ. Греша ли в тия обобщения, според вас?

Извинете ме, но аз не виждам къде е роботът в това, дори не виждам къде е моралния аспект в него. Роботът не може да се корумпира, не може да извлича полза за себе си, не му е нужно работно време и никога не се уморява. Не му е нужен годишен отпуск, майчинство или болнични. Да - роботът е машина и също се поврежда. Но пък и ние хората - също се "повреждаме"...

А иначе - за "КОПЧЕТО и избора" - на всеки в живота му се случва да прави избори. Дали ще е пряко или директно - той прави избори след които има последствия. Понякога това са фатални избори, с много тежки последствия. Но всички носим отговорността си за това. Поне тия, дето могат да носят отговорност. Други - вина и огризения...

ПОнякога се случва да са налице условия в които времето за избор е пренебрежимо малко и няма време за рационално осмисляне на последствията. Затова не е измислен друг вариант за този проблем, освен възможно повече предварителна превантивна подготовка. Но дори и така - не означава че в дадения миг за изборът ни, той ще бъде "правилен'.

Има и други проблеми - в даден момент, "взимащият решение да щрака копчето към една или друга възможност" разполага с ограничен диапазон от възприятие. В него самия процесите по възприятието са променливи и не е възможно да се предскаже в кой момент от условен пик или пад - ще е. Например под въздействието на това че някой се обажда по телефона и съобщава че детето ти е в болница... Емоционалният афект от това рязко снижава възможността за рационален  поглед и кръгозора и широтата на възможностите за избори рязко спада... и т.н.

Възможно е след това - в разглеждането на вече случил се инцидент да са налице други възможности - за избиране, вкл. и от същия вече човек, направил избора. Но в самия миг на реакцията... всичко е уникално и неповторимо откъм съчетания на огромен брой условия. Именно заради това се нарича ИНЦИДЕНТ...

Редактирано Ноември 7, 2018 от ramus

[Skubi]

  On 7.11.2018 г. at 7:45, ramus said:

А иначе - за "КОПЧЕТО и избора" - на всеки в живота му се случва да прави избори. Дали ще е пряко или директно - той прави избори след които има последствия.

Expand  

Много разтягаме локума.

Накратко. За да не се запънеш пак. На запад при олегналите демокрации властта е за ПОДЪННИЦИТЕ, докато при нас подънниците са за ВЛАСТТА. За това ми се отнасяха примерите.

За копчето въпросът е прост. Да драсне тук едно този който иска да участва в едно не репрезантивно изследване. Не изкам да разводнявам с животни, детски колички, старци и пр.

В случай на авария, колата кого да удари.

ПЕШЕХОДЦИ:

СТЕНА:

[Skubi]

  On 7.11.2018 г. at 8:14, Skubi said:

В случай на авария, колата кого да удари.

ПЕШЕХОДЦИ:

СТЕНА:

Expand  

Моето мнение.

В случай на авария, колата кого да удари?

ПЕШЕХОДЦИ: 1

СТЕНА:

[Frujin Assen]

Скуби. Относно бюрокрацията. Преди време четох нещо интересно. Англичаните решили да разберат каква ще е евентуалната полза от парните кораби при океанските превози. Направили сметка и видели, че е забравих колко, но голяма. Радост голяма! Тогава обаче някой се сетил да провери с колко са се увеличили превозите след ликвидирането на пиратството. Прираста бил ОГРОМЕН!!! Тоест новите технологии могат да помогнат, но организацията свързана с човешката дейност е многократно по ефективна. 

Същото е и Англия. При тях просто организацията е по добра, което води до тази чудовищна разлика, а не техниката.

[Skubi]

  On 7.11.2018 г. at 19:00, Frujin Assen said:

Скуби. Относно бюрокрацията. Преди време четох нещо интересно. Англичаните решили да разберат каква ще е евентуалната полза от парните кораби при океанските превози. Направили сметка и видели, че е забравих колко, но голяма. Радост голяма! Тогава обаче някой се сетил да провери с колко са се увеличили превозите след ликвидирането на пиратството. Прираста бил ОГРОМЕН!!! Тоест новите технологии могат да помогнат, но организацията свързана с човешката дейност е многократно по ефективна. 

Същото е и Англия. При тях просто организацията е по добра, което води до тази чудовищна разлика, а не техниката.

Expand  

Понеже пиратсвото Те самите са го координирали /съвкупно с други европейски държави/за ограбването на испанските каравели,  навярно  Privaté-rите които разполагали с Kaparbriefe, letters of marque малко повече слагали в джоба си от това което им се полагало...https://mk.wikipedia.org/wiki/Пиратство

Що се касае за организацията, колко години строим капитализма? Близо 30 години.....Не ми се вярва да нямаше възможност да нагласим бюрокрацията според нуждите на гражданите, народът.....

Но забрави да гласуваш.

В случай на авария, колата кого да удари?

ПЕШЕХОДЦИ: 1

СТЕНА: