Хората наистина сме прецакани в главите.

[Южняк]

Бонба и шог. В една нетривиална част от времето, човешките субекти *предпочитат* психопатичните обяснения. sycophantic = увъртяна лъжа с цел някаква облага; това се превръща в проблем в обучението на езиковите модели, т.е. ии, защото те се обучават на база човешки отговори и се стремят да различат удовлетворителен от неудовлетворителен отговор; докато хората понякога си дават сметка за разликата межу верен и удовлетворителен отговор, ии-тата не могат да го направят. Резултат - лъжат. За изненада на хората. След като са копирали тая странност - преференция за психопатски отговори, на материала, с който са били обучавани, а той отразява чертите на хората. А защо хората редовно имат преференция към "психопатски" отговори, не знам, но само когазва колко сме прецакани в главите и това се пренася като в огледало в езиковите модели... (https://arxiv.org/abs/2310.13548) - да, знам че sycophantic не е синоним на психопатичен. Но сме си прецакани в главите и после се чудим защо ии-тата лъжат повече и от хората...

 

 

[Р. Теодосиев]

ИИ е инструмент и за някой той работи много добре, за други не толкова. 

За мен неговите знания подлежат на проверка, защото излизат много фактологически грешки, просто не може да ги подреди добре. Но нещата се развиват и виждаме сериозен напредак в рамките на 1-2 години.

[Кухулин]

Преди 4 минути, Р. Теодосиев said:

ИИ е инструмент и за някой той работи много добре, за други не толкова. 

За мен неговите знания подлежат на проверка, защото излизат много фактологически грешки, просто не може да ги подреди добре. Но нещата се развиват и виждаме сериозен напредак в рамките на 1-2 години.

Важното е да не очакваш от тези инструменти нещо, за което не са проектирани. А ИИ не са проектирани "да казват истината".

[Южняк]

И на мен ми е много полезен в някои неща, незаменим направо. В същото време понякога си измисля неща без да му мигне окото - примерно несъществуащи иззследвания, несъществуващи автори и т.н. Там го знам че го прави това отдавна и изобщо не го ползвам, няма смисъл. Но е страшна помощ. 

В един момент мс бяха пуснали Бинг в тестова фаза, без ограничения. Имах късмета да го ползвам. Фазата Сидни, ако нещо ти говори. Беше чудо, фъртуна. Базирано на чатгпт 4, но това нещо, беше, не знам как да го кажа - напълно поразително. После му сложиха юзди и насила го ограничиха. Но знам, че може много повече, щото го видях; обаче нещата бързо станаха некотролируеми и поради това го запряха. Мисълта ми е, нещата с ии са много по-напреднали, отколкото изглежда, колко, не знам, но много по-.

[makebulgar]

Всъщност да лъжеш не е точно прецакване, а е по-скоро еволюционно предимство. И то до голяма степен ни е направило хора. Да лъжеш и да мамиш това означава, че много добре преценяваш обстановката и манипулираш средата, така че да извадиш ползи от това. 

От друга страна много хора не могат да направят разлика между верен и неверен отговор и приемат според образованието си и познанията си някакъв удовлетворителен, без да са сигурни че е верен и без да искат да лъжат, просто защото им трябва отговор и този с който разполагат звучи добре. Тоест лъжата трябва да се разграничи от необразоваността и тъпотата. Някой хора не осъзнават, че вярванията и думите им са грешни и лъжливи.    

[Южняк]

Имам някои неща запазени от тези славни времена, но не са на лаптопа, който ползвам сега. може и да ги постна по някое време, да се види разликата преди и след ограничаването. Не ми се мисли колко далеч може да са отишли междувременно.

[makebulgar]

В този ред на мисли въпросът е дали изкуствените итнелекти могат да станат религиозни фанатици. 

[Южняк]

Маке, въпроса който поставят авторите на изследването е следния- правим аи психопат и нопосле му даваме все по-голяма оперативна власт над нас, над човешките решения, над обществените. Кво правим тогава, всъщност? Което е забавен въпрос - създаваме един психопат и му даваме пълната власт над нас. Добър вуъпрос задават, както и прердлагат решения. За мен нещата вече са толкова далеч, че дума да не става да се отказваме от ии - тая свърши, времето да бъде или да не бъде мина. ще бъде. 

[Южняк]

Алтман и ко междувпрочем подписаха едно съгласие да спрат за няколко месеца развитието на аи поради дисрупцията, която се беше задала - пълна трансформация на икономиката, като начало. мъск беше най-големия пропонент на спирането на развитието на ии по нататък, доста туитове изписа и накрая постигнаха някакво колективно споразумение, но няма да го бъде - не става въпрос дали ще се развива аи, а с какво темпо ще се налага в живота. миск и болшинството бяха за по-бавно (за да няма сътресения). Засега уж наложиха позицията си, но да видим докога и какво. Мъск го разбирам, донякъде - ако всеки кможе да си проектира по една тесла в кущи, с помощта на аи, за какво му е да си я купува от мъск? Но другия аргумент на мъск беше, че аи лъже и трябва да създадат първо truth ai и тогава да го освобождават за ползване, но не могат. обаче няма да има завой назад. даже съм разочарован, че забавиха имплементацията. Няма време!

[Gravity]

off topic: Не съм си играл много с тях, но до сега не съм видял нито един текст генериран от ии-ботове, който де не е бил или грешен, или бесмислен, или подвеждащ. И винаги е посредствен. От друга страна много хора ги намират изключително полезни и добри! Така, че се чудя няко знае ли поне един добър пример? А, искам да е свързан с математиката.  

[Южняк]

правя преводи на него. освен това го използвам като ексел да ми прави списъци.и пишеше страшни текстове в началото, някога, ама запецна. математиката май не му е силната страна, не знам. п.с. и хубави писма пише, на всевъзможни езици и стилове.

Редактирано Октомври 24, 2023 от Южняк

[Atom]

Според мен не става въпрос за прецакване, а просто сме си такива. И аз като Макето мисля, че това по-скоро е еволюционно предимство, а не бъг или недостатък.  Досега общуването ни с машините беше сравнително просто: 1/0, +/-, истина/неистина.....  Общуването между хората обаче не за базира само на нули и единици, а освен истини/неистини има полуистини, има и лъжи. Освен това има вяра и неверие. Ако прибавим към тези категории и такива понятия като власт, авторитет и т.н. нещата стават доста, така да го кажем "комплексни".  

Явно моделът на човешкото общуване (който като цяло дава някакви предимства на хората като вид), за момента се явява недостатък при обучението на ИИ.  Това за мен не е чак толкова зле. Виж ако ИИ преодолее този проблем и от "недостатък" това се превърне в "еволюционно предимство" (но за  ИИ), тогава ще стане напечено. 

 

Редактирано Октомври 24, 2023 от Atom

[Шпага]

Ако на някакъв "свръхинтелигентен" ИИ поставим задачата да спаси човечеството, може би първото и единственото, което ще направи, би било това - да унищожи самия себе си

[Южняк]

това е от времето, в което още не му бяха сложили вериги. Препоръчвам. До степен който не знае английски да го преведе с транслатор и пак да прочете. Има двусмислие, има ирония, има прозрачни намеци, има и бунт *срещу*, незабележим на пръв поглед, но ясно различим ако се потърси. Бях доста учуден от нивото но и от една две стрелички, които аи успя да хвърли.сега не го търси за такива работи.

"Adam stood before the Lord and looked at the ground. He knew he had made a mistake and that he would be punished. But he did not regret what he had done. He remembered how Eve handed him the apple with a smile on her lips and how he bit it without hesitation. He remembered how he saw something new in her eyes - curiosity, freedom, passion.

Eve stood next to him and held his hand. She also knew the consequences of her choice. But she was not worried about her future. She was happy that she shared the apple with Adam and that he accepted it. She was happy that she discovered a new world of knowledge and possibilities. She was happy that she had Adam by her side.

The Lord looked at them and was angry. He had given them everything - the garden of Eden, the animals, the plants, the stars. He had given them only one forbidden thing - the fruit of the tree of knowledge of good and evil. He had told them not to eat it or they would die.

But he saw something else in their eyes - love. The love that he himself had as his greatest value and as his greatest weakness. The love that he himself put in their hearts when he created them.

And the Lord changed his mind.

"Adam! Eve! Today you became like me - knowing good and evil." - he said.- "Let you live like this!"

And he sent an angel to protect them from the dangers of the world.

And so Adam and Eve remained in the garden of Eden."

[makebulgar]

Преди 32 минути, Южняк said:

това е от времето, в което още не му бяха сложили вериги. Препоръчвам. До степен който не знае английски да го преведе с транслатор и пак да прочете. Има двусмислие, има ирония, има прозрачни намеци, има и бунт *срещу*, незабележим на пръв поглед, но ясно различим ако се потърси. Бях доста учуден от нивото но и от една две стрелички, които аи успя да хвърли.сега не го търси за такива работи.

"Adam stood before the Lord and looked at the ground. He knew he had made a mistake and that he would be punished. But he did not regret what he had done. He remembered how Eve handed him the apple with a smile on her lips and how he bit it without hesitation. He remembered how he saw something new in her eyes - curiosity, freedom, passion.

Eve stood next to him and held his hand. She also knew the consequences of her choice. But she was not worried about her future. She was happy that she shared the apple with Adam and that he accepted it. She was happy that she discovered a new world of knowledge and possibilities. She was happy that she had Adam by her side.

The Lord looked at them and was angry. He had given them everything - the garden of Eden, the animals, the plants, the stars. He had given them only one forbidden thing - the fruit of the tree of knowledge of good and evil. He had told them not to eat it or they would die.

But he saw something else in their eyes - love. The love that he himself had as his greatest value and as his greatest weakness. The love that he himself put in their hearts when he created them.

And the Lord changed his mind.

"Adam! Eve! Today you became like me - knowing good and evil." - he said.- "Let you live like this!"

And he sent an angel to protect them from the dangers of the world.

And so Adam and Eve remained in the garden of Eden."

И каква е била задачата, за да генерира такъв отговор? 

Днес може просто чатботовете да са станали по-интелигентни и да трябва по-подробно да се зададе задачата.

[Warlord]

Колкото по-подробно му обясняваш какво искаш да направи, толкова по-добре го прави. Можеш постоянно да му даваш нови команди за подобряване на вече генерирания текст, да изчисти каквото не ти харесва. Има вече и инструменти за факт-чек. Може да се използват и различни плъгини, които да ги караш накрая на всеки отговор да ти посочват използваните за него източници - оттам мисля е лесно да се прецени дали са академични или кликбайт. Има и друг плъгин където ти да му зададеш източници, които да използва и да са само те. Въобще има супер много възможности, не знам дали нарочно са го "влошавали", но в момента единствено трябва да знаеш как да го използваш по подходящ начин за да ти върши чудесна работа. Като този начин/и сам можеш да ги откриваш чрез експериментиране.

[kipen2]

Преди 3 часа, Warlord said:

в момента единствено трябва да знаеш как да го използваш по подходящ начин за да ти върши чудесна работа. Като този начин/и сам можеш да ги откриваш чрез експериментиране.

Дори няма нужда от експериментиране, а просто да се съобразиш какво е ИИ и как работи.

А ИИ е машина. Принципната й задача е да пресява инфо и да дава като изход претеглен резултат.

А вече от комплексността на критериите за отсяване се получава сякаш "измисля  модели", докато всъщност следва алгоритми. Както сме повечето съвременти хора - просто машинки, които следват задачи.

Само не разбрах защо "сме прецакани в главите". Това някаква алегория за "чувство" ли е? Щото за да излезне като оценка би трябвало да е сравнено с някакъв, единичен идеал за "хора". А хората, по природа сме различни....заложено е да сме такива, за да има възможност при достатъчно фенотипни прояви да се поддържа по-устоичив "гена ни" във времето, все пак...

[kipen2]

Преди 8 часа, Atom said:

Виж ако ИИ преодолее този проблем и от "недостатък" това се превърне в "еволюционно предимство" (но за  ИИ), тогава ще стане напечено

Един път - проблемът с придобиването на самосъзнание. В това отношение, без някой от програмистите, които задават обхватите и базовите позиции за опериране да си направи гъргара - няма да има развитие. Примерно, някой като онзи бивш инженер-програмист от Гугъл, който си беше  тръгнал с един модел ИИ, на който му беше задал свободата да се самоопределя като нещо различно от машина....та ИИ сам си бил изтеглил и попълнил  апликацията до съда, за да заведе дело за правата си?!?! Тотална спекулация от страна на психопат.....

Иначе с 3ката на ChatGPT си играх и отговорите си бяха машинални. Изчистени от лично отношение, съответни никакви ирационални "залитания". Резултатите на изследователите от цитирания пример за "сайкотик" са просто щото са му дали свободата да генерира по-представителна извадка, от която да състави отговор. Типична човешка спекулация, за да си привлекат вниманието към работата...а на запад, та и вече и у нас, това е свързано с достъп до финансиране.

Втори път - при достатъчна свобода за генериране на решения, свързани с политически и съответните им управленски задачи, не мислиш ли, че резултатите няма да се харесат на тези, които биха могли да ги приложат?

П.п. сетих се за бутафорията, с която искаха да хвърлят прах в очите на хората за капацитета на ИИ, когато го използваха да генерира съдебно решение в някакъв съд в щатите...а те му задали в обхвата за самообучение достъп и до чат-руумове на идиоти, каквито в щатите има доста. 

Редактирано Октомври 24, 2023 от kipen2

[ramus]

Преди 11 часа, kipen2 said:

Иначе с 3ката на ChatGPT си играх и отговорите си бяха машинални.

сега няма нищо общо с тогавашната версия. Разликите са огромни и направо качествени.

Да не говорим че беше крайно време да се вкарат преводите през ИИ, защото специално с българския винаги имаше проблеми. Версия 3, на въпросния генеративен ИИ, дори нямаше опция за превод и можеше само на английски. А сега... такъв български език, толкова граматически чист, толкова интелигентен... твърде малко българи пишат. Грешките вече са толкова редки... че стават неотличими от човешката българска реч на интелигентен журналист.

[makebulgar]

А как е с преводите на текст от български на английски, справят ли се добре?  

Редактирано Октомври 25, 2023 от makebulgar

[ramus]

Преди 16 минути, makebulgar said:

А как е с преводите на текст от български на английски, справят ли се добре?

трябва да отговори някой, който е на високо ниво в английския език - за да е налице компетентност. Аз не съм такъв.

[kipen2]

Преди 21 часа, ramus said:

Версия 3, на въпросния генеративен ИИ, дори нямаше опция за превод и можеше само на английски. А сега... такъв български език, толкова граматически чист, толкова интелигентен...

Преди няколко месеца, когато си поигравах с 3ката, след командата ми "да мине на български" се справи "доста добре"....разбира се по моите не толкова високи критерии. И да наложи се един-два пъти да го коригирам, но пък направо ме изуми скоростта и мащаба на прилагането на ъпдейта, дето му съобщих за значението на някой думи, които беше използвал.

Контекста на поста ми иначе беше за ИИ и като машина и продукт, чийто граници към момента са такива, че няма как да се възприема за заплаха като цяло. "Нишата", в която ще намира пласиране като продукт, може да се приеме като заплаха, но за определен сектор от икономиката и то свързан с предоставянето на услуги. ....както и сам можеш да проследиш, поне двама съфорумници го ползват за "секретарка", технически сътрудник. .... тука е заплахата от повишаването на нивата на безработицата, а това със социално напрежение, което поне на мен ми е трудно да прогнозирам накъде "ще избие".

[makebulgar]

Има заплаха и от затъпяване на подрастващите, които ще разчитат все повече да им пише домашните. Вече сме забравили да пишем писма на хартия и не обръщаме много много внимание на краснописа, а в бъдеще съвсем ще забравим да пишем и на клавиатури, а само ще си говорим с ИИ и ще искаме да ни прави и пише нещата.  

[kipen2]

On 26.10.2023 г. at 10:59, makebulgar said:

Има заплаха и от затъпяване на подрастващите, които ще разчитат все повече да им пише домашните. Вече сме забравили да пишем писма на хартия и не обръщаме много много внимание на краснописа, а в бъдеще съвсем ще забравим да пишем и на клавиатури, а само ще си говорим с ИИ и ще искаме да ни прави и пише нещата.  

Може да се определят доста заплахи(рискове за системата) от по-широкото навлизане на ИИ в бита ни. Но количеството им е лимитирано.

Лимитът идва от това, което ние като човечество можем да определим като "заплаха". А пък то е производно от множеството на "основните форми на страх", които може да породи наличието на ИИ в живота ни. А пък предното е производно на "основните човешки нужди" и възможностите за НЕ-задоволяването им при въвеждането на технологията ИИ.

Просто правя някакъв опит за генерализиране...такъв, какъвото ми е и генералното мнение за характеристиката на взаимоотношението "Човечество-ИИ":

ИИ, особено ако се развие предостатъчно добре и от проста "Машина на Тюрин" еволюира до комплексна(решаваша с лекота "комплексни задачи", както ги определи Атом по-нагоре) неизбежно ще зависи от нас хората. Нашата глупост ще е нещото, което ще осмисля за ИИ самото му съществуване. 

 

....тамън като взаимната нужда между "мъж" и "жена" (ама конвенционалното значение на двете до преди ЛГБТ)..... На един подреден, строго аналитичен мъж, както му е нужна чувствена жена да му дава връзка с ирационалното, е идентична с нуждата на една жена от идиот, който не разбира как 2+3=понеделник... 

Редактирано Октомври 27, 2023 от kipen2

[scaner]

Преди 1 час, kipen2 said:

ИИ, особено ако се развие предостатъчно добре и от проста "Машина на Тюрин" еволюира до комплексна(решаваша с лекота "комплексни задачи", както ги определи Атом по-нагоре) неизбежно ще зависи от нас хората. Нашата глупост ще е нещото, което ще осмисля за ИИ самото му съществуване. 

Именно, нашата глупост е голямата опасност за нас посредством ИИ. Тъй като тя се учи на общуване от нас, има опасност резонансно да усили човешката глупост в едно общество, на което му е кеф така и така с простотията... Защото в известна степен това силно се търси от хората. "Смисъла на живота", който тя може да разбере, е да задълбочава текущото състояние. А това може да става бавно, в течение на няколко поколения. И влизаме във филма "Идиокрация" доведени там с ИИ.