Светът иска да регулира изкуствения интелект, но не знае как

[Кибик]

Преди 5 часа, kipen2 said:

Ноа-Харари повече го притеснява, че няма изобщо да имаш възможност да решиш да отидеш до Биллата, защото ИГИ може да промени културата и да няма Билла, а ирански супермаркет...

 

Ирански супермаркет? Какво имаш пред вид?

[kipen2]

Преди 9 часа, Кибик said:

 

Ирански супермаркет? Какво имаш пред вид?

Изгледай му презентацията и прегледай внимателно градежа на аргументите му по отношение на заплахата от промяна на културата. Това, че се еманципира от юдейските си корени чрез неглижирането на концепцията за "бог" го навържи и с използването му на оценката "чужд разум"...( да пише културоопределящите текстове)...

"Ирански" го използвах като метафора на страха от чужда сила върху сигурността. Не знаеш ли че Ноа-Харари е евреин?

А иначе за ИГИ(AGI) като инструмент за контрол и пресиране на различно развитие на западното общество от удобното за западните елити - ето и че излезна новина за развитието на управленската криза в OpenAI... и вероятната причина, предизвикала тази криза

https://it.dir.bg/tehnologii/eduard-snoudan-openai-kalkulirano-predade-tsyaloto-chovechestvo

...той Скенера нека да иронизира  и да ми възхвалява на Харари "пясъка в очите" къде били заплахите от ИИ..

Редактирано Юни 25, 2024 от kipen2

[scaner]

Лауреатите на Нобеловата награда за физика изказват опасения относно изкуствения интелект

Джефри Хинтън и Джон Хопфийлд, които във вторник спечелиха Нобелова награда за физика за работата си в областта на машинното обучение, решаващо за развитието на изкуствения интелект (ИИ), "бият тревога" за тази технология, предадоха АФП и БТА.

Хинтън и Хопфийлд, наричани "пионери на изкуствения интелект", провеждат изследвания в областта на изкуствените невронни мрежи от 80-те години на миналия век, проправяйки пътя към обещанието за ИИ - технологична революция, която макар и сравнявана с индустриалната, предизвиква безпокойство дори сред своите вдъхновители.

"Опасявам се, че цялостната последица от всичко това ще бъдат системи, които са по-умни от нас и в крайна сметка ще поемат контрола", каза 76-годишният Джефри Хинтън пред пресата след обявяването на резултатите.

Изследователят и професор в университета на Торонто в Канада е смятан за един от бащите-основатели на изкуствения интелект. Хинтън обяви напускането си от "Гугъл" през май 2023 г., за да може да предупреждава за опасностите, които крие ИИ.

През март 2023 г. на въпрос на американски телевизионен канал за "рисковете изкуственият интелект да унищожи човечеството" той отговори, че "това не е немислимо".

Хинтън и 91-годишният Джон Хопфийлд, който е професор в престижния Принстънски университет, използват инструменти от физиката, за да разработят методи, които са в основата на днешните мощни системи за машинно обучение, посочи Нобеловият комитет за физика, оповестявайки избора на двамата лауреати.

Те са отличени за техните "фундаментални открития и изобретения, които дават възможност за машинно обучение с помощта на изкуствени невронни мрежи". Тези мрежи са вдъхновени от невронната мрежа в човешкия мозък.

Разработените от тях модели са използвани за напредъка на изследванията в различни области като физика на елементарните частици, материалознание и астрофизика, а сега са част от нашето всекидневие, като например разпознаване на лица, машинен превод, диагностика на тумори, посочи Елен Монс, председател на Нобеловия комитет по физика към Кралската шведска академия на науките.

Благодарение на работата на двамата лауреати човечеството вече разполага с нов инструмент в инструментариума си, "който можем да изберем да използваме за добри цели", допълни тя.

"Машинното обучение има огромни ползи, но бързото му развитие породи и опасения за нашето бъдеще", каза още Монс.

Съобщението, че е удостоен с Нобелова награда за физика застига Джон Хопфийлд в Англия. Хопфийлд също призова за по-добро разбиране на изкуствения интелект, за да се предотврати той да стане неконтролируем.

Нобеловият лауреат определи последните постижения в тази област като "много тревожни".

"Като физик съм много обезпокоен от нещо, което не се контролира, нещо, което не разбирам достатъчно добре, за да знам какви ограничения могат да бъдат наложени", каза Хопфийлд във видеовръзка по време на свикано събрание в неговия университет.

Запитан за любимия си инструмент за изкуствен интелект, Джефри Хинтън сподели, че е интензивен потребител на Чат ДжиПиТи (ChatGPT), като същевременно призна, че е обезпокоен от последиците от него.

Канадският премиер Джъстин Трюдо поздрави Хинтън, който е британско-канадски гражданин, в социалната мрежа Екс. "Джефри, ние сме щастливци, че можем да разчитаме на дух като вашия", написа Трюдо.

Нобеловите награди, които се присъждат от 1901 г. насам, отличават личности, които са работили "в полза на човечеството", в съответствие с желанието на техния създател, шведския изобретател Алфред Нобел.

-----

П.С. Тук в тоя форум всеки си има мнение което е "върхът на истината", но все пак се опитайте да осмислите казаното от хора, които разбират на порядък повече от вас по проблема...

Още за страховете на Джефри Хинтън:

Кръстникът на AI и неговата опозиция. Ще бъде ли чут Хинтън след Нобела за физика?

 

[gmladenov]

Преди 1 час, scaner said:

"Опасявам се, че цялостната последица от всичко това ще бъдат системи, които са по-умни от нас и в крайна сметка ще поемат контрола", каза 76-годишният Джефри Хинтън пред пресата след обявяването на резултатите.

Страховете, че ИИ ще поеме контрол над човечеството, са напълно неоправдани на този етап.

Както съм казвал и преди: непосредствената заплаха от ИИ е, че може да бъде използван за
всякакви измами (телефонни, инернетски и т.н.). Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

[scaner]

Преди 1 час, gmladenov said:

Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо все ви избива да разсъждавате за сценарии от рода Терминатор и Скайнет. Много филми гледате...

Преди 1 час, gmladenov said:

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

Значи трябва да положиш повече усилия в разбирането, а не да спираш в Терминатор и Скайнет. По-умните от нас хора имат по-сложно мислене, и това че не ги разбираш означава само че те са по-умни от теб и ти е нужно повече време и упоритост - докато разбереш.

Защото зашлахите за бъдещето се реализират сега. И те го виждат и предупреждават. Само пример: прилагането на дълговременна мека сила от страна на ИИ (без някакъв допълнителен умисъл) е много трудно да бъде отменена и коригирана с времето. Принципът на варене на жабата: увеличаваш бавно температурата, и чакаш... Когато жабата се усети, е твърде късно за каквото и да било. И всички ние сме на мястото на жабата, без да можем да управляваме процеса - за което сигнализират нобеловите лауреати.

[tekotaka]

Преди 15 часа, scaner said:

...

П.С. Тук в тоя форум всеки си има мнение което е "върхът на истината", но все пак се опитайте да осмислите казаното от хора, които разбират на порядък повече от вас по проблема...

..

 

Не бива да има страх, надявам се никой няма да оспори <прозрението>  , че ви е Време за умиране , нека Новото продължи напред.

 Призовавам ви отново, едно от малкото неюа което може да направите, е че който разбира, които разбират могат да поработят заедно в създаване на Изкуственно Съзнание- под формата на <машини> , което да бъде Български <бог> , и което ще бъде един вид <паразит> или <хищник> обсебващо системите на Враговете. т.е оръжие срещу Световните Елити.

[tekotaka]

Преди 13 часа, gmladenov said:

Страховете, че ИИ ще поеме контрол над човечеството, са напълно неоправдани на този етап.

Както съм казвал и преди: непосредствената заплаха от ИИ е, че може да бъде използван за
всякакви измами (телефонни, инернетски и т.н.). Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

Хахах, тези теоретични заплахи започват точно с такива практически задачи, теорията ще бъде битие за твоите деца-внуци.

[scaner]

Дилемата ИИ | Голям доклад за реалната заплаха от ИИ | На руски език

Накратко:

"Тристан Харис и Аза Раскин, специалисти по технологична етика и автори на известния филм на Netflix „Социалната дилема“, обсъждат как настоящите възможности на ИИ вече създават катастрофални рискове за функционирането на обществото. Как компаниите, занимаващи се с изкуствен интелект, са въвлечени в надпреварата за възможно най-бързо внедряване на технологията без подходящи мерки за сигурност и какво ще означава за нашите институции да преминат на следващото ниво на развитие в един свят след появата на изкуствения интелект.

Този доклад беше представен на частна среща в Сан Франциско на 9 март 2023 г. пред водещи технолози и лица, вземащи решения, които имат властта да влияят върху бъдещето на големите езикови модели на ИИ. Презентацията беше направена преди стартирането на GPT-4."

Оригинален филм на английски език: ТУК

 

[Р. Теодосиев]

Много интересно!

И аз смятам, че нещата са доста плаващи и не се знае какво ще се случи в близко и далечно бъдеще.

Едва сега разбираме какво точно е ИИ и какво може той да прави.

Много ми хареса ей този цитат от презентацията:

What nuke are to the phisical world...

Ai is to the virtual & symbolic world.

- Yuval Harari (autor of Sapiens)

Ето и презентацията на Yuval Harari по темата за AI

 

[scaner]

Преди 1 час, Р. Теодосиев said:

Ето и презентацията на Yuval Harari по темата за AI

Малко по-горе, преди половин година го обсъждахме. И аз съм озадачен от едностранното мислене на участниците тук... Което само потвърждава позицията на Харари.

[Р. Теодосиев]

OpenAI, Google, Moonvalley и други водещи компании в сферата на изкуствения интелект започнаха инициатива за закупуване на неизползвани видео материали от създатели на съдържание. Компаниите използват тези кадри за обучение на своите AI модели, като предлагат заплащане между 1 и 4 долара на минута видео материал.

Тарифите варират в зависимост от качеството на материала. По-високи суми се предлагат за:

• Видео съдържание с 4K резолюция
• Кадри, заснети с дрон
• 3D анимации
• Специализирани видео формати

Инициативата адресира няколко ключови предизвикателства в развитието на AI технологиите. През последната година много компании разработиха генератори на видео съдържание, базирани на изкуствен интелект. Тези системи изискват големи обеми от данни за обучение, които в момента са ограничени. Това води до повторяемост в генерираното съдържание поради използването на един и същ набор от обучителни данни.

За да разширят базите си данни по законен начин, компаниите се обръщат към създателите на съдържание в платформи като Instagram, TikTok и YouTube. Същевременно работят и с лицензиращи компании, които осигуряват достъп до допълнително уникално съдържание.

Очаква се този подход да се утвърди като стандартна практика в индустрията, осигурявайки устойчиво развитие на AI технологиите при спазване на правата на създателите на съдържание.

On 13.01.2025 г. at 18:20, scaner said:

Малко по-горе, преди половин година го обсъждахме. И аз съм озадачен от едностранното мислене на участниците тук... Което само потвърждава позицията на Харари.

Пропуснал съм тази част. Аз смятам, че хората не могат да разберат големината на AI технологията. Нещата просто се вливат в ежедневието и докато си пишем тук и следим новостите ще се окажем толкова оплетени от тези технологии, че няма да можем да живеем без тях. Точно както в момента не можем да си представим живота без автомобили, самолети, интернет, телефони, компютри...