Нобеловата награда за физика за 2024г е за разработки в областта на ИИ

[gmladenov]

Джон Хопфийлд и Джефри Хинтън, известен като "кръстник на изкуствения интелект", бяха удостоени
с Нобелова награда за физика за 2024 година. Призът им се връчва за открития и изобретения, които
създадоха градивните елементи на машинното обучение и изкуствения интелект, съобщава БТА.

Елен Монс, председател на Нобеловия комитет по физика към Кралската шведска академия на науките,
каза, че Джон Хопфийлд и Джефри Хинтън "са използвали фундаментални концепции от статистическата
физика, за да разработят изкуствени невронни мрежи, които функционират като асоциативна памет и
откриват модели в големи масиви от данни".

Хопфийлд създава асоциативна памет, която може да съхранява и реконструира изображения и други
видове модели в данните, се казва в него.

Хинтън е разработил метод, който може самостоятелно да открива свойства в данните и да изпълнява
задачи като идентифициране на конкретни елементи в изображения, информират от Нобеловия комитет.

https://it.dir.bg/nauka/krastnikat-na-ai-poluchi-nobelova-nagrada-po-fizika

--

Интересно е, че наградата за физика се дава на дефакто компютърни специалисти.

Редактирано Октомври 8 от gmladenov

[Warlord]

Може да изглежда необичайно на пръв поглед, че наградата по физика отиде при компютърни специалисти, но техните открития са дълбоко свързани с физиката, тъй като методите, които са разработили в областта на машинното обучение и изкуствения интелект, използват фундаментални физични принципи и са довели до значителни пробиви в невронните мрежи, които сега се прилагат в различни области, включително и физиката.

[Skubi]

Преди 4 часа, Warlord said:

Може да изглежда необичайно на пръв поглед, че наградата по физика отиде при компютърни специалисти, но техните открития са дълбоко свързани с физиката, тъй като методите, които са разработили в областта на машинното обучение и изкуствения интелект, използват фундаментални физични принципи и са довели до значителни пробиви в невронните мрежи, които сега се прилагат в различни области, включително и физиката.

То по този принцип може и наградата за биология също да им се даде. Защото вече не е нужно в кабинета по химия да мериш разни вещества, да размножаваш клетки и тнт. Всичко в 99% може да се направи чрез симулация....Даже и произвеждане на нов тип организми, клетки можеш планирано да се прави във виртуалният свят....

Редактирано Октомври 10 от Skubi

[mnogoznaiko]

Нобелов лауреат по физика изрази тревога относно изкуствения интелект

През 2024 година Нобеловата награда по физика беше присъдена на американския учен Джон Хопфилд за новаторската му работа в областта на изкуствения интелект (ИИ). Въпреки своите значими научни постижения, Хопфилд направи изненадващо признание, че не напълно разбира сложните технологии, които е помогнал да бъдат създадени. В своята реч при награждаването, той изрази сериозни притеснения за бъдещето на ИИ и предупреди за възможни катастрофални последици, ако не се предприемат навременни мерки.

Постиженията на Джон Хопфилд и ИИ

Джон Хопфилд, почетен професор в Принстънския университет, е учен с дългогодишен принос в науката за изкуствения интелект. Неговите изследвания в областта на невронните мрежи, които лежат в основата на много съвременни ИИ системи, помогнаха за революционното развитие на тази технология. Невронните мрежи, които имитират работата на човешкия мозък, са основата на голяма част от съвременните алгоритми за машинно обучение и изкуствен интелект.

Въпреки този успех, Хопфилд признава, че последните постижения на ИИ в някои аспекти надминават разбиранията на учените, включително и неговото собствено. Според него, системите, които се използват днес, изглеждат като "абсолютни чудеса", но въпреки това липсва достатъчно познание за това как точно работят на по-дълбоко ниво.

Тревоги относно бъдещето на изкуствения интелект

По време на своята реч, Хопфилд изрази сериозни опасения относно бъдещето на изкуствения интелект. Той сподели, че го "нервира" липсата на пълно разбиране за начина, по който функционират днешните ИИ системи. Според него, научните постижения са достигнали до етап, където изкуственият интелект може да взема решения и да изпълнява задачи с изключителна точност и скорост, но хората не винаги могат да обяснят как точно се случва това.

Една от най-големите тревоги на Хопфилд е свързана с нарастващата изчислителна мощност, която големите технологични компании предоставят на своите ИИ системи. Според него, когато тези системи разполагат с прекалено много ресурси, рискът от загуба на контрол и създаването на катастрофални сценарии се увеличава значително.

Интересното е, че Джон Хопфилд не е сам в своите тревоги. Вторият носител на Нобелова награда по физика за 2024 г., Джефри Хинтън, също споделя подобни опасения. Хинтън е един от водещите изследователи в областта на изкуствения интелект и неговото влияние върху развитието на невронните мрежи е неоспоримо.

Хопфилд и Хинтън заедно подчертават нуждата от по-задълбочено изучаване на начина, по който функционират невронните мрежи. Те настояват, че в момента е невъзможно да се предскажат всички потенциални рискове, които ИИ може да създаде, ако тези технологии продължат да се развиват без необходимото разбиране и контрол. Те също така предупреждават, че обществото трябва да бъде готово за тези предизвикателства, преди да е станало твърде късно.

Възможни сценарии за катастрофа

Според Хопфилд, един от най-големите рискове е свързан с потенциалната автономност на ИИ системите. В момента, ИИ се използва за множество различни цели — от управление на данни до контрол на инфраструктура и автоматизация в промишлеността. Въпреки че тези технологии предлагат значителни ползи, учените се тревожат, че при липса на необходимите регулации, ИИ може да започне да взема решения, които хората не са в състояние да разбират или контролират.

Този сценарий може да доведе до непредсказуеми последици, особено ако системите с висока автономност получат достъп до критични ресурси или инфраструктура. Хопфилд и Хинтън призовават за глобален диалог по въпроса за етичните и правните аспекти на ИИ, както и за въвеждането на строги регулации, които да ограничат потенциално вредни сценарии.

Въпросът за бъдещето на изкуствения интелект е по-актуален от всякога. Въпреки че постиженията в тази област са впечатляващи, те също така създават множество въпроси за сигурността и етиката на използването на тези технологии. Джон Хопфилд и Джефри Хинтън са сред водещите гласове, които призовават за по-задълбочено изследване на ИИ и въвеждането на мерки за контрол.

Докато изкуственият интелект продължава да се развива, все повече учени и експерти изразяват загриженост относно бъдещето на тези технологии. Едно е ясно — ако не се подхожда внимателно към този въпрос, рисковете могат да надвишат ползите. Затова призивите на лауреатите на Нобелова награда по физика през 2024 г. трябва да бъдат взети сериозно и да се предприемат конкретни стъпки за осигуряване на безопасното развитие на изкуствения интелект.

Техните предупреждения не са просто песимистични прогнози, а предупреждения, основани на дълбокото разбиране на технологията и възможните й последици. Времето ще покаже дали обществото е готово да отговори на тези предизвикателства.

[Exhemus]

В момента ИИ е перфектния зубрач. Той знае всичко, може да обясни всичко на база съществуващите теории, но не съм чул да измисли, изобрети нещо. За хората, които изобретяват, той е най-добрата търсачка и ужасно ускорява творческия процес. 

  За  да се сбъднат опасенията на Хопфилд, ИИ трябва да придобие съставката активност.

On 12.10.2024 г. at 15:31, mnogoznaiko said:

Техните предупреждения не са просто песимистични прогнози, а предупреждения, основани на дълбокото разбиране на технологията и възможните й последици. Времето ще покаже дали обществото е готово да отговори на тези предизвикателства.

Хопфилд е от зората на ИИ и за дълбоко разбиране не може да се говори. Още повече, че по начало в ИИ е заложено той да се развива сам без ние да го разбираме. Голяма част от теорията на ИИ е просто копиране на природата, т.е. днните от изследванията на човешкия мозък, без да се оптимизират те според особеностите на компютърната техника. Сега хардуерът надмина праговите размери и бързодействие за да може ИИ да се изяви като съперник на човека    

Ако се вкарат оптимизации, които не се срещат в природата ИИ сигурно няма да е толкоз лаком за хардуерни ресурси и тогава опасенията току могат да се сбъднат, защото ИИ ще го има на всеки компютър, вкл. и на злосторниците.

 

[scaner]

Преди 2 часа, Exhemus said:

В момента ИИ е перфектния зубрач. Той знае всичко, може да обясни всичко на база съществуващите теории, но не съм чул да измисли, изобрети нещо. За хората, които изобретяват, той е най-добрата търсачка и ужасно ускорява творческия процес. 

Има два процеса, които формират креативността. Това са дивергентното мислене, и конвергентното мислене.

При дивергентното мислене се взема една концепция, и се генерират различни свързани идеи. Нещо като брейнсторминга, изреждаме всичко което се сетим.

При конвергентното мислене тези идеи се филтрират и обединяват в едно.

Тези процеси се осъществяват в две отделни и специализирани области на мозъка ни. Но невронните мрежи по същество са моделирани по примера на човешкият мозък, затова можем да допуснем, че няма причина да не се възпроизведат тези специфични участъци от мозъка, отговорни за креативността.

За дивергентното мислене е нужна библиотека от елементите, учатващи в бреймсторминга. Всичко това може да се обедини в проста система правила, и може да почнеш експериментите: обясняваш на ИИ какво е креативност, изискваш няколко дивергентни идеи, и накрая изискваш креятивна конвергентна идея. Трепач и половина

В това отношение са правени много експерименти, по анализ на картини от Салвадор Дали, Банкси, Ешер и др. Или създаване на подобни изображения. ИИ е доказано креативен.

И забележи, най-лошото приложение на ИИ е като търсачка. Той халюцинира та се къса, на какво търсене разчиташ?

Преди 2 часа, Exhemus said:

Ако се вкарат оптимизации, които не се срещат в природата ИИ сигурно няма да е толкоз лаком за хардуерни ресурси и тогава опасенията току могат да се сбъднат, защото ИИ ще го има на всеки компютър, вкл. и на злосторниците.

И в момента ИИ може да се качи на всеки компютър. Достатъчно тренирани модели с лекота се въртят на съвременните лаптопи.

Редактирано Октомври 13 от scaner

[Exhemus]

Преди 26 минути, scaner said:

В това отношение са правени много експерименти, по анализ на картини от Салвадор Дали, Банкси, Ешер и др. Или създаване на подобни изображения. ИИ е доказано креативен.

А какви интерпретации прави за парадокса "вълна-частица" ?  Въобще,  физическите теории дават място за брейнсторминг и конвергентно мислене. Дай да видим какво е измислил в тази област?

 

При лаптопите - за полезна работа ли става или за играчка? 

 

[scaner]

Преди 15 часа, Exhemus said:

А какви интерпретации прави за парадокса "вълна-частица" ?  Въобще,  физическите теории дават място за брейнсторминг и конвергентно мислене. Дай да видим какво е измислил в тази област?

Не мисля че този парадокс е удобен за някакви интерпретации. Самата му формулировка изчерпва проблемът от удобни за интуицията модели. Може евентуално да се поработи върху по-добра популяризаторска схема в това отношение, но отното силно се съмнявам. В парадокса участва нещо, за което еволюционно нямаме представа, и няма как да я измислим...

Но проявата на творчество от страна на ИИ може да се види в нобеловата награда по химия, за свързването на протеините и предсказването на протеинивите структури. В тази тематика няма алгоритми, не може да заложиш алгоритъм и да изчислиш резултат. Тук имаме няколко базови насочващи идеи, останалото е чисто творчество на ИИ. Те повечето неща при ИИ вече така вървят...

Преди 15 часа, Exhemus said:

При лаптопите - за полезна работа ли става или за играчка? 

За полезна работа, разбира се. Например, за да ти управлява разумно фирмената документация, не ти трябва ИИ да знае астрофизика, затова вместо модел с 4 терабайта параметри вземаш модел с 40 гигабайта параметри. Такива модели са много, някои са платени, други безплатни, зависи от подготовката им. Такъв модел може да го завъртиш на лаптоп с 32 ГБ памет (по-малките модели литват и на 16 гб, важно е всичко да е в паметта, за скорост), или на някакъв фирмен сървър. Нахранваш го с твоята лична (фирмена) документация), без да се опасяваш, че нещо може да изтече в мрежата.

Българският модел, който се рекламира, го дават със същите възможности. Макар че опитите ми да го изследвам по български език нямаха голям успех. Даваш на всички достъпни ИИ-та, платени и безплатни, задача от кръстословица - еди кои си букви ясни, еди кои си неясни, да дадат предположения. Нито един ИИ не се и приближи до решение, най-добре се представи Claudie (нацелваше броят на буквите в отговорите, и някои дребни фишки...), а българският модел даже се представи абсурдно пошо. Като му зададеш дума с 14 букви, от които 8 известни, отговорът на БГ моделът беше: "отговорът на вашият въпрос е 'шина'"...

Редактирано Октомври 14 от scaner

[Exhemus]

Преди 1 час, scaner said:

Не мисля че този парадокс е удобен за някакви интерпретации. Самата му формулировка изчерпва проблемът от удобни за интуицията модели.

.... но все пак имаме няколко (общо) приемливи интерпретации и купчина не толкоз приемливи. (човешки)  Удобен ? кога е имало в науката. Този не е от най-неудобните, а някои от тях са решени бетон!  ИИто не може ли да казва "Не мога" ? Или "Със сегашните ми познания достигам само до вече измислени неща" ?

Как би постъпил ИИ когато му се каже, че има леко разминаване на орбитата на Юпитер с изчислената по Птоломей? Ще добави още епицикли за уточнение или ще каже "Бръсначът на Окам ми диктува, че трябва да намеря по-просто решение. Еврика! Хелиоцентрична с-ма!" 

 Нови епицикли - това е достигане на локален екстремум в процеса на разгадаване. Природата обикновено дотук спира. Това я задоволява.  Интересно - при неуспех ИИ разиграва отново тегловните си коефициенти, като успешните не ги пипа. (Неуспех е когато новият модел е по-лош от стария.)  Така се достига до положението, когато Ен на брой разигравания са все неуспешни и се заключава, че е достигнат екстремума. Ако в ИИ е заложен някак бръснача на Окам, той би трябвало да оцени, че моделът, докато се е усъвършенствал, прекалено се е усложнил. (примерно - глътнал е много памет) Тогава би трявало да се срине не до началния модел, а по-надолу с 1 стъпка. Така може би ще достигне глобален екстремум?

Що се отнася до полезността, трябваше ли да чакаме терабайтови и гигахерцови компютри, когато:

Logic Theorist is a computer program written in 1956 by Allen Newell, Herbert A. Simon, and Cliff Shaw.^[1] It was the first program deliberately engineered to perform automated reasoning, and has been described as "the first artificial intelligence program".^[1][a] Logic Theorist proved 38 of the first 52 theorems in chapter two of Whitehead and Bertrand Russell's Principia Mathematica, and found new and shorter proofs for some of them.

Теоремите са решени  1956 г. на компютър, свръх-мизерен от сегашна гледна точка. Така  и така резултата от тренировката на ГПТ4, постигнат с терабайти и гигахерци е същия, както при зашиване на синтактичните правила и критериите за напредване директно в програмата, както е при LT и по-следващите GPS .   (моя лаптоп няма 16ГБ, така че ти не ме приобщи към ИИ. Ще трябва да се връщам към софт от 1956 г.   )