Светът иска да регулира изкуствения интелект, но не знае как

[Кибик]

Преди 5 часа, kipen2 said:

Ноа-Харари повече го притеснява, че няма изобщо да имаш възможност да решиш да отидеш до Биллата, защото ИГИ може да промени културата и да няма Билла, а ирански супермаркет...

 

Ирански супермаркет? Какво имаш пред вид?

[kipen2]

Преди 9 часа, Кибик said:

 

Ирански супермаркет? Какво имаш пред вид?

Изгледай му презентацията и прегледай внимателно градежа на аргументите му по отношение на заплахата от промяна на културата. Това, че се еманципира от юдейските си корени чрез неглижирането на концепцията за "бог" го навържи и с използването му на оценката "чужд разум"...( да пише културоопределящите текстове)...

"Ирански" го използвах като метафора на страха от чужда сила върху сигурността. Не знаеш ли че Ноа-Харари е евреин?

А иначе за ИГИ(AGI) като инструмент за контрол и пресиране на различно развитие на западното общество от удобното за западните елити - ето и че излезна новина за развитието на управленската криза в OpenAI... и вероятната причина, предизвикала тази криза

https://it.dir.bg/tehnologii/eduard-snoudan-openai-kalkulirano-predade-tsyaloto-chovechestvo

...той Скенера нека да иронизира  и да ми възхвалява на Харари "пясъка в очите" къде били заплахите от ИИ..

Редактирано Юни 25 от kipen2

[scaner]

Лауреатите на Нобеловата награда за физика изказват опасения относно изкуствения интелект

Джефри Хинтън и Джон Хопфийлд, които във вторник спечелиха Нобелова награда за физика за работата си в областта на машинното обучение, решаващо за развитието на изкуствения интелект (ИИ), "бият тревога" за тази технология, предадоха АФП и БТА.

Хинтън и Хопфийлд, наричани "пионери на изкуствения интелект", провеждат изследвания в областта на изкуствените невронни мрежи от 80-те години на миналия век, проправяйки пътя към обещанието за ИИ - технологична революция, която макар и сравнявана с индустриалната, предизвиква безпокойство дори сред своите вдъхновители.

"Опасявам се, че цялостната последица от всичко това ще бъдат системи, които са по-умни от нас и в крайна сметка ще поемат контрола", каза 76-годишният Джефри Хинтън пред пресата след обявяването на резултатите.

Изследователят и професор в университета на Торонто в Канада е смятан за един от бащите-основатели на изкуствения интелект. Хинтън обяви напускането си от "Гугъл" през май 2023 г., за да може да предупреждава за опасностите, които крие ИИ.

През март 2023 г. на въпрос на американски телевизионен канал за "рисковете изкуственият интелект да унищожи човечеството" той отговори, че "това не е немислимо".

Хинтън и 91-годишният Джон Хопфийлд, който е професор в престижния Принстънски университет, използват инструменти от физиката, за да разработят методи, които са в основата на днешните мощни системи за машинно обучение, посочи Нобеловият комитет за физика, оповестявайки избора на двамата лауреати.

Те са отличени за техните "фундаментални открития и изобретения, които дават възможност за машинно обучение с помощта на изкуствени невронни мрежи". Тези мрежи са вдъхновени от невронната мрежа в човешкия мозък.

Разработените от тях модели са използвани за напредъка на изследванията в различни области като физика на елементарните частици, материалознание и астрофизика, а сега са част от нашето всекидневие, като например разпознаване на лица, машинен превод, диагностика на тумори, посочи Елен Монс, председател на Нобеловия комитет по физика към Кралската шведска академия на науките.

Благодарение на работата на двамата лауреати човечеството вече разполага с нов инструмент в инструментариума си, "който можем да изберем да използваме за добри цели", допълни тя.

"Машинното обучение има огромни ползи, но бързото му развитие породи и опасения за нашето бъдеще", каза още Монс.

Съобщението, че е удостоен с Нобелова награда за физика застига Джон Хопфийлд в Англия. Хопфийлд също призова за по-добро разбиране на изкуствения интелект, за да се предотврати той да стане неконтролируем.

Нобеловият лауреат определи последните постижения в тази област като "много тревожни".

"Като физик съм много обезпокоен от нещо, което не се контролира, нещо, което не разбирам достатъчно добре, за да знам какви ограничения могат да бъдат наложени", каза Хопфийлд във видеовръзка по време на свикано събрание в неговия университет.

Запитан за любимия си инструмент за изкуствен интелект, Джефри Хинтън сподели, че е интензивен потребител на Чат ДжиПиТи (ChatGPT), като същевременно призна, че е обезпокоен от последиците от него.

Канадският премиер Джъстин Трюдо поздрави Хинтън, който е британско-канадски гражданин, в социалната мрежа Екс. "Джефри, ние сме щастливци, че можем да разчитаме на дух като вашия", написа Трюдо.

Нобеловите награди, които се присъждат от 1901 г. насам, отличават личности, които са работили "в полза на човечеството", в съответствие с желанието на техния създател, шведския изобретател Алфред Нобел.

-----

П.С. Тук в тоя форум всеки си има мнение което е "върхът на истината", но все пак се опитайте да осмислите казаното от хора, които разбират на порядък повече от вас по проблема...

Още за страховете на Джефри Хинтън:

Кръстникът на AI и неговата опозиция. Ще бъде ли чут Хинтън след Нобела за физика?

 

[gmladenov]

Преди 1 час, scaner said:

"Опасявам се, че цялостната последица от всичко това ще бъдат системи, които са по-умни от нас и в крайна сметка ще поемат контрола", каза 76-годишният Джефри Хинтън пред пресата след обявяването на резултатите.

Страховете, че ИИ ще поеме контрол над човечеството, са напълно неоправдани на този етап.

Както съм казвал и преди: непосредствената заплаха от ИИ е, че може да бъде използван за
всякакви измами (телефонни, инернетски и т.н.). Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

[scaner]

Преди 1 час, gmladenov said:

Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо все ви избива да разсъждавате за сценарии от рода Терминатор и Скайнет. Много филми гледате...

Преди 1 час, gmladenov said:

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

Значи трябва да положиш повече усилия в разбирането, а не да спираш в Терминатор и Скайнет. По-умните от нас хора имат по-сложно мислене, и това че не ги разбираш означава само че те са по-умни от теб и ти е нужно повече време и упоритост - докато разбереш.

Защото зашлахите за бъдещето се реализират сега. И те го виждат и предупреждават. Само пример: прилагането на дълговременна мека сила от страна на ИИ (без някакъв допълнителен умисъл) е много трудно да бъде отменена и коригирана с времето. Принципът на варене на жабата: увеличаваш бавно температурата, и чакаш... Когато жабата се усети, е твърде късно за каквото и да било. И всички ние сме на мястото на жабата, без да можем да управляваме процеса - за което сигнализират нобеловите лауреати.

[tekotaka]

Преди 15 часа, scaner said:

...

П.С. Тук в тоя форум всеки си има мнение което е "върхът на истината", но все пак се опитайте да осмислите казаното от хора, които разбират на порядък повече от вас по проблема...

..

 

Не бива да има страх, надявам се никой няма да оспори <прозрението>  , че ви е Време за умиране , нека Новото продължи напред.

 Призовавам ви отново, едно от малкото неюа което може да направите, е че който разбира, които разбират могат да поработят заедно в създаване на Изкуственно Съзнание- под формата на <машини> , което да бъде Български <бог> , и което ще бъде един вид <паразит> или <хищник> обсебващо системите на Враговете. т.е оръжие срещу Световните Елити.

[tekotaka]

Преди 13 часа, gmladenov said:

Страховете, че ИИ ще поеме контрол над човечеството, са напълно неоправдани на този етап.

Както съм казвал и преди: непосредствената заплаха от ИИ е, че може да бъде използван за
всякакви измами (телефонни, инернетски и т.н.). Това е много по-реална и по-голяма заплаха от
чисто теоретичния сценарий от филма Терминатор, в който Скай-Нет контролира хората.

Не мога да разбера защо Нобелови лаурети са загрижени за теоретични опасности от далечното
бъдеще, докато не обелват и дума за реалните заплахи в настоящето.

Хахах, тези теоретични заплахи започват точно с такива практически задачи, теорията ще бъде битие за твоите деца-внуци.