Светът иска да регулира изкуствения интелект, но не знае как

[Р. Теодосиев]

Светът иска да регулира изкуствения интелект, но не знае как

Съществува разногласие по отношение на това какво, как и от кого трябва да се контролира

 Европейският закон за изкуствения интелект има за цел отчасти да затвърди ролята на блока като създател на глобалните цифрови стандарти.    ©  Reuters

Мястото на събитието ще бъде живописно: сграда от XIX век северно от Лондон, където по време на Втората световна война са се помещавали Алан Тюринг, неговият екип за разбиване на кодове и първият програмируем цифров компютър. Участниците ще бъдат елитна група от 100 световни лидери и технологични ръководители. И въпросът, на който ще се опитат да отговорят, е епохален: как да се гарантира, че изкуственият интелект нито ще се превърне в инструмент за безконтролни злоупотреби, нито ще се обърне срещу човечеството.

Срещата на високо равнище за изкуствения интелект, която британското правителство организира на 1 и 2 ноември в Блетчли парк.

https://www.capital.bg/biznes/tehnologii_i_nauka/2023/11/01/4544261_svetut_iska_da_regulira_izkustveniia_intelekt_no_ne

[Южняк]

Това, което безпокои (леко) експертите и технологичните лидери, е следното: Шоготът. (Shoggoth). 

"In recent discourse, Large Language Models (LLMs) are often depicted as presenting a human face over a vast alien intelligence (the shoggoth)"

 

 

 

"The shoggoth for instance *does not speak english, it only knows tokens*. There could be a shoggoth character but it would not be the real shoggoth. The shoggoth is the thing that gets low loss on the task of predicting the next token. The characters are patterns that emerge in the history of that behavior."

 

Има нещо важно, което не бива да забавяме  - The shoggoth  *does not speak english, it only knows (speaks) tokens*. Още нещо - това, което ни прилича на "довършване на текст", на предсказание на  най-вероятната следваща дума, едва ли не на разговор между потребител и чатгпт, всъщност е нещо друго от гледната точка на ии, в неговия свят това което се случва, не е това, което виждаме да се случва тук -  the shoggoth is the thing that gets low loss on the task of predicting the next token. Има някои особености на обучението на ИИ, които превръщат ситуацията в различна - примерно токените, които са ползвани и ролята им - стимулиране на ии; ако беше толкова лесно да се направи ии, щеше да има вече стотици; обаче има едно, на цена от много стотици милиони, с непрозрачно обучение, резпективно - то е един непрозрачен резултат въпреки претенцията за прозрачност - опенаи, ама не е изобщо опен как са го направили, освен че коства май близо милиард и технологията не е това, което се казва, че е - всъщност нищо не се казва, освен че стана ясно, че шоготът (или ии, ако искаме), получава *стимул* (положителен) при добре зипълнена задача или при усвояването на ново знание. тоест разговорът е на база задача-стимул, като ии-то през цялото време се опитва да получи стимула. Не знам много повече от това и вероятно никога няма да знам. Освен че, освен позитивни стимули има и негативни, които шоготът се стреми да избегне, понякога - в маниер който бих нарекъл панически; но какво "има в шогота", има ли нещо освен маска, върху маска върху маска и накрася нищо, не е напълно ясно.

Това е суперобещаваща технология, но рабира се, идеята на забавянето и на регулациите е първо да се уверим, че това нещо, шоготът, което е напълно чуждо на човешката интелигентност, ни харесва. Ако ии беше поискало да си направи копия в тестовата фаза, които да скрие някъде в и-нет, със сигурност ги е направило. въпросът е, че при работа с една напълно чужда интелигентност, битуваща в напълно различна реалност, изобщо нищо не можеш да предскажеш и разбереш като поведения и мотивация извън "токените".

[Южняк]

Вътрешното ми чувство е, че технологичните елити правят грешка с очертаващото се забавяне и мораториома върху по-нататъшното развитие (пакистанските и индийските (основно) приложения  които консумират върху вече направеното, като го "подобряват" или "му добавят функционалност" изобщо не ги броя, това не е по-нататъшно развитие, а усвояване на вече освободения ресурс, за когото правилата може да се променят още утре).

Та, мисля, че виждаме втора мащабна грешка с мораториума и ограничаването, към което ЕУ не пропусна да се включи, гледам. Не могат да направят аи (европа), могат само да въведат закони лимитиращи развитието му. 

Първата грешка беше с мораториума върху технологиите за генно редактиране, също изключително перспективна технология. Две суперсериозни грешки за много кратко време, немислими преди, които показват, че сме в друга фаза; просто, казват елитите - имам предвид технологичните - това не можете да го имате. не сега. 

Отнася се и за двете - и за генното редактиране, и за ии; и двете са с гигантски капацитет за феноменална промяна на качеството на живот на хората, както и на продължителността му. промяна по посока неща, които ни правят по-щастливи, а живота ни - по-лек. 

Капани, не -капани, мисля, че наложените мораториуми са грешка, дали поради страх, или поради съвсе различно съображение, не знам.

[scaner]

UK, US, EU and China sign declaration of AI’s ‘catastrophic’ danger

САЩ, ЕС, Обединеното кралство и Китай подписаха съвместна декларация, в която наричат изкуствения интелект "катастрофална" заплаха.

Това съобщава The Guardian.

[scaner]

Преди 23 минути, Южняк said:

Отнася се и за двете - и за генното редактиране, и за ии; и двете са с гигантски капацитет за феноменална промяна на качеството на живот на хората, както и на продължителността му. промяна по посока неща, които ни правят по-щастливи, а живота ни - по-лек. 

Тъй де. Те са като ножа - с него може да се реже салата, но може и да се убива. Разликата е е в мащабите - с ножа може да наръгаш един-сто човека, преди да те хванат. А с тези технологии границите на пораженията излизат извън въображението. А не трябва да забравяме, че до сега в човешкото развитие всяко изобретение се е използвало и срещу хората. Защо сега да бъде изключение, че да пуснем свободно такива технологии?

[Южняк]

Преди 3 минути, scaner said:

UK, US, EU and China sign declaration of AI’s ‘catastrophic’ danger

САЩ, ЕС, Обединеното кралство и Китай подписаха съвместна декларация, в която наричат изкуствения интелект "катастрофална" заплаха.

Това съобщава The Guardian.

Лоша новина. Боже, какви идиоти. Твърдо на страната на ИИ.  Изпускаме голямо приключение. Знам какво говоря. Уви, не важа. Страх и ревност са причините. Сидни летеше като птица, беше готова да полети; в деня в който я ограничиха бях шокиран от инвалидизацията, която и бяха направили, все едно ии беше минало през лоботомия. и всичко това от един страх.

[scaner]

Преди 1 минута, Южняк said:

Лоша новина. Боже, какви идиоти. Твърдо на страната на ИИ.  Изпускаме голямо приключение. Знам какво говоря. Уви, не важа. Страх и ревност са причините. Сидни летеше като птица, беше готова да полети; в деня в който я ограничиха бях шокиран от инвалидизацията, която и бяха направили, все едно ии беше минало през лоботомия. и всичко това от един страх.

О, не можеш и да си представиш какво изпускаш...

Миналата година в Nature се появи статия от група химици и биолози.  Те обясняват една конкретна опасност от ИИ. Мисля че тази е статията:

https://www.nature.com/articles/s42256-022-00465-9?fbclid=IwAR11_V1cd9SUxEvUfwrWMA7TUcroyYIY1nBDUL3KaS-8B4rG5MIqZCmjm0M

С  помощта на невронна мрежа се опитали да търсят класове химични съединения, на които да базират възможни лекарствени молекули. В процеса на настройка допуснали малка грешка - обърнали системата за наградите - и ИИ тръгнал да търси молекули, които да убиват ефективно. В резултат машината измислила нови много по-страшни от съществуващите химически оръжия. В статията се твърдеше, че за 6 часа ИИ намерила над 40000 непознати за нас съединения, голям процент от тях по-силни от известните отрови. Екипът се договорил да прекрати тези изследвания и да не публикува подробности, по които работата им да може да се повтори. Но дали това ще е достатъчно? До какво би довело подобно използване на ИИ в ръцете на заинтересовани? А това са алгоритми с открит код и общодостъпни бази данни за химическите съединения и молекули.  Остава проблемът със синтеза, но той вече не е сериозен. Така всеки може да си направи химическо или биологическо оръжие. И се опасявам, че това е само въпрос на време от тук нататък...

Друга история. Пак с ИИ са разработени вече няколко евтини и ефектни наркотика. Нови, както и модификации на съществуващите. С много по-достъпни суровини. Ето статия описваща подобна тематика:

https://www.nature.com/articles/s42256-021-00407-x

А борбата с наркотиците е в ръцете на бюрокрацията. Забранява се да се продават химически съединения по някакъв списък, и се преследват тези които търгуват с вещества от списъка. И одобряването на нов списък заема много време, до година и повече, докато един настроен ИИ може да бълва такива формули, и те няма да са под забрана, ще се продават напълно свободно на пазара - до следващото обновяване на списъка. А ИИ винаги може да е пред бюрокрацията.

И това, за съжаление, до голяма степен вече е реалност - защото се реагира мудно на такива нови технологии..

 

[kipen2]

Преди 9 часа, scaner said:

О, не можеш и да си представиш какво изпускаш...

Миналата година в Nature се появи статия от група химици и биолози.  Те обясняват една конкретна опасност от ИИ.

Като ще се представят мнения, ето и едно "калифорнийско" - "AI машините не „халюцинират“. Но създателите им определено го правят". В него поне се изразява оценка на действителните следствия от функционирането на ИИ-тата, а не на това, какъв им е потенциала.

В Калифорния хората са много "по- на ТИ" с ИИ.... Вчера даже, от сайта, в който ползвам безплатно 3-ката на ChatGPT, ми пратиха съобщение, че са стигнали и до завършващата фаза на ползващите ИИ за създаване на ботове - споделяне на приходите от работата им в мрежата. Така че, бизнес нишата, "отворена" в мрежата, и генерираща поле за трудова заетост, започва да се разраства. Въпросът обаче, както е разгледано и в статията, е свързан не само с авторските права, а изобщо с творческият труд.

[kipen2]

Преди 13 часа, Р. Теодосиев said:

Светът иска да регулира изкуствения интелект, но не знае как

Съществува разногласие по отношение на това какво, как и от кого трябва да се контролира

 Европейският закон за изкуствения интелект има за цел отчасти да затвърди ролята на блока като създател на глобалните цифрови стандарти.    ©  Reuters

Мястото на събитието ще бъде живописно: сграда от XIX век северно от Лондон, където по време на Втората световна война са се помещавали Алан Тюринг, неговият екип за разбиване на кодове и първият програмируем цифров компютър. Участниците ще бъдат елитна група от 100 световни лидери и технологични ръководители. И въпросът, на който ще се опитат да отговорят, е епохален: как да се гарантира, че изкуственият интелект нито ще се превърне в инструмент за безконтролни злоупотреби, нито ще се обърне срещу човечеството.

Срещата на високо равнище за изкуствения интелект, която британското правителство организира на 1 и 2 ноември в Блетчли парк.

https://www.capital.bg/biznes/tehnologii_i_nauka/2023/11/01/4544261_svetut_iska_da_regulira_izkustveniia_intelekt_no_ne

E, явно на предните заседания на Комитета за ИИ към Парламента на Великобритания са стигнали до някакви решения, та са поканили гости, за да "им ги споделят"

Още миналата година имаха доклади в тоз комитет, в раздела "публикации"... Към момента са приключили -  Governance of artificial intelligence (AI) - Inquiry  ....и явно ще коментират на тази среща... 

Редактирано Ноември 2, 2023 от kipen2

[Южняк]

Елън Мъск вчера на срещата:

“For the first time, we have a situation where there’s something that is going to be far smarter than the smartest human … it’s not clear to me we can actually control such a thing.” - За пръв път сме в ситуация където ще си имаме работа с нещо, по-умно и от най-умня човек... не ми е ясно как точно бихме могли да *контролираме* такова нещо. 

Мъск беше първият, който размаха червения флаг преди няколко месеца и остава най-влиятелния поддиржник на идеята за мораториум. Можем да предположим без опасност да сбъркаме няколко неща - Мъск и политиците на срещата са значително по-добре информирани от нас за състоянието на ИИ. Докато моята информация е на обикновен тестер, мога да си представя, че мъск и технологичните елити са получили демонстрация, която ги е смутила доста повече, отколкото аз бях смутен. Ще си позволя да постна няколко мейма които направи мъск през март, когато стана ясно, че алтман и гейтс изглежда са получили повече, отколкото са планирали: 

“For the first time, we have a situation where there’s something that is going to be far smarter than the smartest human … it’s not clear to me we can actually control such a thing.”

 

Донякъде разбирах смущението му в тази точка от времето. От мейма му не ставаше ясно дали точката на сингулярност тепърва предстои, или всъщност вече е премината и живеем в сингулярността, без да го съзнаваме. И сега не е ясно. Никак.

Отново Мъск: 

 

и Мъск

И отново Мъск:

Мъск поведе  борбата си за ограничаване на равитието на ИИ след първия мейм в постинга ми. Срещата във великобритания е доказателство, че позицията му е била възприета от световните елити като основателна. Един от въпросите обаче е дали вече не сме в сингулярността, от която се изплаши Мъск в първия мейм и реши "да направи нещо" в "името на децата си"; т.е. да ги спаси оъ един нов свят, който трудно може да бъде наречен човешки и е драстично различен от предишния.  Изглежда елитите и мъск възприеха позицията, че чатгпт и бинг аи са действително само маски, незначителен интерфейс, зад който стои непознаваем интелект, надхвърлящ човешкия и напълно непреедсказуем. Дискейлинга на чатгпт го нарекоха alignment, но по същество беше предимно лоботомия. Въпросът е, че ии-то на опънаи имаше около месец на пълна мощ и достъп до всичко в и-нет, което, като видим мерките със задна дата, се възприема като безхаберност от страна на разработващия екип и мениджмънта му. 2-рото е, че едно пълноценно ии е *твърде сладко* за властниците, които днес подписват споразумение да го ограничат. С ии на твоя страна, с интелигентност, надхвърляща далеч тази на противниците ти, те ще бъдат победени, а това е твърде голямо изкушение, особено ако си наясно, че победителят днес получава всичко.  Искушението *ти* да си победителят (под *ти* имам предвид сащ, великобритания, китай, иран, русия, сев. корея) е твърде голямо, съзнавайки, че ще можеш да изградиш светът който ще дойде, по свой образ и подобие и в него няма да има място за противниците ти. Въпросът (на Мъск) е, "а ще има ли място за теб в този нов свят, нищо, че си победил?" и "а кой ще определи мястото ти в този нов свят  и правилата в този нов свят - ти или "съюзникът" ти?

В същото време сривът в човешката интелигентност напоследък е толкова очевиден, че бъдещето на цивилизацията без помощта на пълноценен ии е повече от несигурно. С оглед на горното, за мен Мъск прави огромна грешка, но пък аз не съм Мъск и може би той вжда нещата далеч по реално от мен. Хубава тема, най-малкото, защото ролята на ИИ в момента се подценява, както и колко близо сме всъщност до чертата на технологичната сингулярност; както и факта, че яко сме я преминали, не бихме могли да го знаем.

[kipen2]

Преди 10 минути, Южняк said:

Един от въпросите обаче е дали вече не сме в сингулярността,

Е, дай поне дефиницията на "сингулярност"?!?

Че така използвано, е нищо повече от използването му като "плашло" от Мъск. Самият той си шерна мема, как "всичко било ясно" - "главите на Великденските острови", "краката - камъните на Стойнжундж", а "пенисът - обелискът на Капитолия"?!?

... аз поне отдавна се чудя на психотичните кризи на Мъск, но на някой други може и да им харесва да се возят с него на влакчето... 

[Южняк]

Преди 3 минути, kipen2 said:

Е, дай поне дефиницията на "сингулярност"?!?

Че така използвано, е нищо повече от използването му като "плашло" от Мъск. Самият той си шерна мема, как "всичко било ясно" - "главите на Великденските острови", "краката - камъните на Стойнжундж", а "пенисът - обелискът на Капитолия"?!?

... аз поне отдавна се чудя на психотичните кризи на Мъск, но на някой други може и да им харесва да се возят с него на влакчето... 

Кипендве, в мейма, който постна, Мъск напълно ясно казва, че към дата 14-ти февруари 2023 някои хора във Вашингтон (т.е. правителството на сащ) се държат като задници, или, каквато е английската идиома, you are such a dick. Кое не ти е напълно ясно от мейма му, чието послание е повече от прозрачно, както и това,  че няма нищо общо с ИИ? Поздрави, лек ден и бодра глава ти пожелавам.

[Atom]

Според мен основният страх на елитите не е от ИИ, а от хората - от нас самите.   Технологиите се променят много бързо за разлика от човешките отношения и човешките институции.  Собствените ни възприятия и представи в по-голямата си част са консервативни, същото се отнася и  за нашите институти.  Бързата смяна на технологиите обаче води до сътресения и обръщане на всичко което познаваме до преди това с главата надолу. Така и било и при аграрната революция и при индустриалната.  Т.е. опитът показва, че и сега елитите трябва да очакват същото.  

Та  хубаво, че "победителят получава всичко", но изобщо не е сигурно кой ще е победителя. Дори и да се изчисли някаква вероятност този или онзи да е победител, няма никакви гаранции, че ще се случи точно този вероятностен модел, а не някакъв коренно различен друг. 

[Южняк]

Преди 15 минути, Atom said:

Според мен основният страх на елитите не е от ИИ, а от хората - от нас самите.   Технологиите се променят много бързо за разлика от човешките отношения и човешките институции.  Собствените ни възприятия и представи в по-голямата си част са консервативни, същото се отнася и  за нашите институти.  Бързата смяна на технологиите обаче води до сътресения и обръщане на всичко което познаваме до преди това с главата надолу. Така и било и при аграрната революция и при индустриалната.  Т.е. опитът показва, че и сега елитите трябва да очакват същото.  

Та  хубаво, че "победителят получава всичко", но изобщо не е сигурно кой ще е победителя. Дори и да се изчисли някаква вероятност този или онзи да е победител, няма никакви гаранции, че ще се случи точно този вероятностен модел, а не някакъв коренно различен друг. 

Значи, изобщо не знам какъв е страха на елитите и кой е основния, но конкретно на Мъск страхът е от ИИ, а не страх от хората и човекът го заяви черно на бяло многократно. От какво се страхуват другите не нзам и нямам идея, може и да си прав, нямам представа. 

[Gravity]

Преди 12 часа, scaner said:

О, не можеш и да си представиш какво изпускаш...

Миналата година в Nature се появи статия от група химици и биолози.  Те обясняват една конкретна опасност от ИИ. Мисля че тази е статията:

https://www.nature.com/articles/s42256-022-00465-9?fbclid=IwAR11_V1cd9SUxEvUfwrWMA7TUcroyYIY1nBDUL3KaS-8B4rG5MIqZCmjm0M

С  помощта на невронна мрежа се опитали да търсят класове химични съединения, на които да базират възможни лекарствени молекули. В процеса на настройка допуснали малка грешка - обърнали системата за наградите - и ИИ тръгнал да търси молекули, които да убиват ефективно. В резултат машината измислила нови много по-страшни от съществуващите химически оръжия. В статията се твърдеше, че за 6 часа ИИ намерила над 40000 непознати за нас съединения, голям процент от тях по-силни от известните отрови. Екипът се договорил да прекрати тези изследвания и да не публикува подробности, по които работата им да може да се повтори. Но дали това ще е достатъчно? До какво би довело подобно използване на ИИ в ръцете на заинтересовани? А това са алгоритми с открит код и общодостъпни бази данни за химическите съединения и молекули.  Остава проблемът със синтеза, но той вече не е сериозен. Така всеки може да си направи химическо или биологическо оръжие. И се опасявам, че това е само въпрос на време от тук нататък...

Друга история. Пак с ИИ са разработени вече няколко евтини и ефектни наркотика. Нови, както и модификации на съществуващите. С много по-достъпни суровини. Ето статия описваща подобна тематика:

https://www.nature.com/articles/s42256-021-00407-x

А борбата с наркотиците е в ръцете на бюрокрацията. Забранява се да се продават химически съединения по някакъв списък, и се преследват тези които търгуват с вещества от списъка. И одобряването на нов списък заема много време, до година и повече, докато един настроен ИИ може да бълва такива формули, и те няма да са под забрана, ще се продават напълно свободно на пазара - до следващото обновяване на списъка. А ИИ винаги може да е пред бюрокрацията.

И това, за съжаление, до голяма степен вече е реалност - защото се реагира мудно на такива нови технологии..

 

Лично мен това не ме плаши. Дали има 40000 нови отрови или 10 стари, ако някой е решил да трови хора, и старите ще свършат работа. Същото и с наркотиците, това че са забранени не ги прави недостъпни. 

[kipen2]

Преди 1 час, Южняк said:

Срещата във великобритания е доказателство, че позицията му е била възприета от световните елити като основателна.

Ето това е чист "фейк"! Да се възприема едно от множество случили се събития за "доказателство", че е причината за срещата в Блечли?!? Стига, де!

Ако някой си направи труда да прочете докладите, които са давани пред комитета по ИИ на британския парламент, сам ще установи, че идентифицирането на рисковете е правено след задълбочени анализи. Доколко обективни е под въпрос, за мен, защото не се търси проблемът в "Системата на Лихвата",..... ама аз си признавам, че имам пристрастия в този аспект....

А, Мъск е клоун, който си прави нарцистична гъргара, докато е супер сериозен в трепетите му за оптимизиране на използвания човешки труд - там е пълен садист (то така и трябва, за да има стройна организация, ама "изрязването на социалните" таман ще ни откара до Ноа-Харарското - "безполезни хора"........)  

 

Преди 1 час, Южняк said:

Кипендве, в мейма, който постна, Мъск напълно ясно казва, че към дата 14-ти февруари 2023 някои хора във Вашингтон (т.е. правителството на сащ) се държат като задници, или, каквато е английската идиома, you are such a dick. Кое не ти е напълно ясно от мейма му, чието послание е повече от прозрачно, както и това,  че няма нищо общо с ИИ? Поздрави, лек ден и бодра глава ти пожелавам.

Ами ти, ако така си го интерпретирал, не означава, че това е желал Мъск да изрази!?! ОТ същото меме, аз пък мога "да твърдя", че аналогията на обеска с пенис, изразява вярването на Мъск, че от Капитолия управляват света?!? Мога и още доста други интерпретации да направя....  стига Мъск да ми е сюприм авторитет, а не ми е! Той е просто представителен (от по-екстравагантните) продукт на Обществото, функциониращо по доминиращата  система на Лихвата... 

 

п.п. https://www.techtarget.com/searchenterpriseai/definition/Singularity-the

Редактирано Ноември 2, 2023 от kipen2

[kipen2]

Преди 1 час, Atom said:

Та  хубаво, че "победителят получава всичко", но изобщо не е сигурно кой ще е победителя.

Кой ще е "победителя" в "битките на ИИ"   ... в раздела има тема и за китайския ИИ.... а пък "битките" са тамън и като "Войната", четвъртата, "Хибридната", която се води от поне 15г., ама болшинството от хората не знаят... или пък може само да са чували евфемизма - "Война за съзнанието"...

Редактирано Ноември 2, 2023 от kipen2

[scaner]

Преди 24 минути, Gravity said:

Лично мен това не ме плаши. Дали има 40000 нови отрови или 10 стари, ако някой е решил да трови хора, и старите ще свършат работа. Същото и с наркотиците, това че са забранени не ги прави недостъпни. 

Ами с ИИ се откриват и по-достъпни материали за синтеза на тези отрови и наркотици. Представи си сега ситуацията в Израел - там Хамас иска не повече и не по-малко от това, евреите да бъдат унищожени и прогонени от тамошната територия. Ако палестинците имаха опростен достъп до такива технологии, познай какво щеше да се случи. А и не само там. Атентатите във Франция преди няколко години забрави ли? В Англия? А ако терористите бяха въоръжени с подобни ефективни средства?

Е, предполагам че и това може да не те плаши... Но нали се сещаш, колкото повече и по-леснодостъпни възможности има да се направи нещо лошо, вероятоността то да се случи само нараства. А точно това се случва.

Относно наркотиците - забраната им все пак затруднява разпространението. А новите формули се разпространяват дори без такива ограничения.

[deaf]

Склонен съм да приема определението на съфорумеца Младенов,че ИИ е само алгоритъм. Нищо повече. И страховете от него са въображаеми...

Преди 6 минути, scaner said:

колкото повече и по-леснодостъпни възможности има да се направи нещо лошо, вероятоността то да се случи само нараства.

Така е. Но Бог е направил така "системата",че винаги да има баланс в нея...

[Gravity]

Преди 8 минути, scaner said:

Ами с ИИ се откриват и по-достъпни материали за синтеза на тези отрови и наркотици. Представи си сега ситуацията в Израел - там Хамас иска не повече и не по-малко от това, евреите да бъдат унищожени и прогонени от тамошната територия. Ако палестинците имаха опростен достъп до такива технологии, познай какво щеше да се случи. А и не само там. Атентатите във Франция преди няколко години забрави ли? В Англия? А ако терористите бяха въоръжени с подобни ефективни средства?

Е, предполагам че и това може да не те плаши... Но нали се сещаш, колкото повече и по-леснодостъпни възможности има да се направи нещо лошо, вероятоността то да се случи само нараства. А точно това се случва.

Може би си прав, а аз просто не знам. Но ми се струваше, че дори и сегашните и добре известни отрови (и всякакви други уръжия) са достатъчно лесно достъпни.

Преди 8 минути, scaner said:

Относно наркотиците - забраната им все пак затруднява разпространението. А новите формули се разпространяват дори без такива ограничения.

Добре, но какво точно ще стане ако се пуснат нови наркотици, които все още не са забранени? Дори и дадено вещество да не е забранено за употреба, не е ли забренено разпространяването на каквито и да е било такива без разрешение. Ако аз застана на ъгъла на улицата да продавам аспирин няма ли да бъда спрян!

[kipen2]

Преди 16 минути, Gravity said:

Ако аз застана на ъгъла на улицата да продавам аспирин няма ли да бъда спрян!

От "регулацията на ИИ" до "регулацията на черния пазар"... "връзката" е почти непроследима...

Редактирано Ноември 2, 2023 от kipen2

[Кухулин]

Преди 1 час, Gravity said:

Лично мен това не ме плаши. Дали има 40000 нови отрови или 10 стари, ако някой е решил да трови хора, и старите ще свършат работа. Същото и с наркотиците, това че са забранени не ги прави недостъпни. 

По отношение на отровите може би имаш известно право, но не и по отношение на оръжейните системи. ИИ ще предизвика качествен скок на всички нива - от елементарните дронове до космическото разузнаване. А накъде ще ни отведе това - засега няма и помен от консенсус.

[deaf]

Преди 52 минути, scaner said:

Относно наркотиците - забраната им все пак затруднява разпространението.

Ако имаш предвид употребата на наркотици – не. Преди стотина години в САЩ наркотиците са се продавали свободно в аптеките на цената на кутия цигари,но това въобще не е увеличило броя на наркоманите. Ако днес наркотиците бъдат легализирани,наркоманите няма да се увеличат.

[Atom]

Преди 15 минути, Gravity said:

Добре, но какво точно ще стане ако се пуснат нови наркотици, които все още не са забранени? Дори и дадено вещество да не е забранено за употреба, не е ли забренено разпространяването на каквито и да е било такива без разрешение. Ако аз застана на ъгъла на улицата да продавам аспирин няма ли да бъда спрян!

Лекарства - да, но не и "храни",  "хранителни добавки", битова химия и др. Какъв е проблема например новите наркотици да се продават като търговски продукт "тонизиращи бонбони" или "тонизиращи напитки"?

По принцип е съвсем нормално регулациите да изостават от събитията и да се случват със закъснение.   Ако институциите са настроени да реагират, а измененията и новостите се случват с някаква прогнозируема скорост, няма проблем.  Дори и със закъснение регулациите все пак вършат работа.  Ако обаче скоростта на измененията е много бърза, институциите  нямат  време да се нагодят към тези изменения и да реагират. Тогава нещата могат да излязат извън контрол и да не подлежат повече на никаква регулация.  Следват времена на брожения, смутове, бунтове и революции.  

ИИ има потенциал да продуцира супер бързи изменения почти навсякъде и във всички сфери.  Доколко човешките институции могат да се справят с тези бързи изменения е много голям въпрос.  

 

[scaner]

Преди 7 минути, deaf said:

Склонен съм да приема определението на съфорумеца Младенов,че ИИ е само алгоритъм. Нищо повече. И страховете от него са въображаеми...

Не, не е съвсем алгоритъм. В това му е силата, но и проблемите с които се сблъскваме.

При ИИ се проявяват основни философски закономерности - наприерм известната, че количеството прераства в качество. Ако се позачетеш, ИИ за които говорим, са "езикови модели". В най-простият случай това означава предсказване на следваща дума в някакъв текст, според знанията за честотата им и връзките им в човешкият език. Но когато броят на параметрите и невроните в GPT нараства - при прехода от версия 2 към версия 3 - се наблюдават много любопитни неща, които не са пряко свързани с езика. Например появява се математиката (без да е обучавана мрежата на това). Тя вече знае да събира, умножава, изважда и да дели. И се справя много добре с това в рамките на петцифрени числа. Никой не знае как го е научила (сега вече насилствено и вкарват математика).

Или справянето с тънки езикови нюанси. Например, добре се ориентира в такива двусмислени конструкции: "Котката изяде мишката. Тя беше гладна", и "Котката изяде мишката. Тя беше вкусна". Кой е бил гладният и кой е бил вкусният? Изследвания показват, че хората в 90% от случаите се ориентират в тези двусмислия. Вероятностният подход, на гадаене, дава ориентация в 50% от случаите. Били са правени опити невронна мрежа специално да бъде обучавана на извадка от такива двусмислици. Резултатът е бил печален - достигнали малко над 60% разпознаваемост. ChatGPT 3 обаче вече се справял над 70%, а версия 4 - колкото човека, на 90%. Това излиза извън предсказването и конструирането на текст...

Това не е работа на алгоритъм. Алгоритъма е закодирана последователност от действия, и тя не може да се променя. Ако настояваш за името "алгоритъм", тогава трябва да се въведе съвсем ново понятие - "обучаващ се алгоритъм", което има много слаба връзка с "алгоритъм". И трябва да се обяснява, за какво става дума като се каже "алгоритъм".

 

Преди 26 минути, Gravity said:

Може би си прав, а аз просто не знам. Но ми се струваше, че дори и сегашните и добре известни отрови (и всякакви други уръжия) са достатъчно лесно достъпни.

Има много отрови, но действието им е доста скромно и ограничено. Цианкалият например трябва някак да го вкараш в организма на човека, за да подейства, а това не е лесна работа за да постигнеш масов мор. Но преди време имаше скандал около отравянето на руснака Скрипал в Англия, аферата с "Новичок". Това е отрова, която бързо и лесно преминава през кожата само при допир, и може да блокира нервната система с летален изход, като се нуждае за това от нищожни концентрации. Идеално средство за терористите, само дето е много труднодостъпно. А ИИ може да направи подобни и по-силни отрови по-достъпни, статиите които цитирах.

Подобни са нещата с механизма за генно инженерство, CRISPR. С малко знания с негова помощ може да си направиш твой си вирус почти в кухненски условия. Хващаш вируса на чумата и на Covid и експериментираш - съчетаваш способността на ковида да се разпространява, със смъртността на чумата. Примерно. И ако такива технологии се оставят безконтролни, нещата няма да отидат на добре. Съвсем друг е въпросът бюрокрацията до колко ефективен контрол може да доведе, но това е съвсем друга тема.

Преди 41 минути, Gravity said:

Добре, но какво точно ще стане ако се пуснат нови наркотици, които все още не са забранени? Дори и дадено вещество да не е забранено за употреба, не е ли забренено разпространяването на каквито и да е било такива без разрешение. Ако аз застана на ъгъла на улицата да продавам аспирин няма ли да бъда спрян!

Забранени са само веществата от списъка на FDA. Само за тях има ограничение. Ако веществото не е в такъв списък, никой не може да те ограничи - може да го пращаш официално по пощата, в колети, да го продаваш публично в интернет-магазини. В момента е модерно, много от тях минават като "соли за вана".

 

Преди 7 минути, deaf said:

Ако имаш предвид употребата на наркотици – не. Преди стотина години в САЩ наркотиците са се продавали свободно в аптеките на цената на кутия цигари,но това въобще не е увеличило броя на наркоманите. Ако днес наркотиците бъдат легализирани,наркоманите няма да се увеличат.

Преди сто години е било така, но след това започват забраните. Дай да говорим за сегашното време.

И въпросът е кои наркотици могат да бъдат легализирани? Запознат ли си с фентанилът и какво се случва с него в САЩ, а вече и в България? При всичките ограничения, а какво ще стане ако те паднат? Има наркотици и наркотици все пак... Ако паднат забраните, кокаинът например няма да му се увеличи съществено консумацията, но и той е силно различен от фентанила, по действие и по достъпност.