Ще промени ли DeepSeek сегашното статукво в LLM технологиите?

[Grifin]

  Вчера американските технологични компании имаха тежък ден, като най-големият губещ беше NVDIA, която загуби над 17% от пазарната си капитализация или близо 600 млрд. долара. Причината? Новоизлюпеният китайски стартъп DeepSeek , който представи тези дни своя LLM. Само по себе си това не е кой знае каква новина, такива модели има доста, за този обаче китайците твърдят, че използва много по-малко изчислителна мощ и че струва около 6 млн. долара, което е стотици пъти по-малко от разходите на OpenAI  и от разходите за хардуер, които  Apple, Meta, Microsoft, Google и Amazon планират да направят през предстоящата година за своите ИИ. Освен това, според тях(китайците), той превъзхожда последните версии на ChatGPT по отношение на математика, логика и писане на код.

  Аз лично съм ползвал ИИ не повече от няколко десетки пъти и то за съвсем рутинни неща. Преди време пробвах ChatGPT с няколко задачи и не се справи особено добре, в задачи в които трябваше да съобрази някакъв шорткът, не го направи, но все пак ги реши, а задача, в която трябваше да се намерят минималния брой тегления с електронна везна, с които можем да разберем кой фишек съдържа фалшиви монети, ако имаме 50 фишека и знаем, че фалшивите са по-леки напр. с 0,1 грам, изобщо не успя да реши, изчерпа се до предложения да ги делим на групи и теглим докато елиминираме по-лекия фишек. Същата задача я дадох одеве на DeepSeek и я реши (отговорът е едно теглене). Дали успя да "съобрази" или е обучаван на такъв тип задачи аз нямам представа, но се справи по-добре от ChatGPT, като все пак трябва да се отчете, че онези опити бяха преди може би повече от година.
  Любопитно ми е какво мислят по-запознатите с ИИ, дали е възможно наистина такъв модел да се направи на стотици пъти по-ниска цена и с много по-малко изчислителна мощност, и дали DeepSeek наистина е по-добър в кодене и логика.

Редактирано Вторник в 12:31 от Grifin

[Кибик]

Ами това само показва колко вредни са монополите или по-точно картелите в която и да е област. Имахме хамерикански картел от две-три фирми и те си въобразиха, че могат да таксуват каквото си искат. Днеска гледам новините, самите хамериканци и канадци приветстват китайската конкуренция. Свободния пазар работи.

На всичкото отгоре DeepSeek е опън сорс, това означава, че всеки, включая и българските фирмички могат да го теглят и клонират и да действат ако имат идеи.

Също така не се притеснявам за НВидия. Те винаги ще намерят пазар за процесорите си, математическите модели обикновено се разширяват докато изпълнят наличния капацитет от процесорна мощ. Може би няма да им се наложи да строят атомни електроцентрали до всеки център, но е сигурно че ще продължат да инвестират в компютърна мощ.

Редактирано Вторник в 14:40 от Кибик

[dora]

Тук искам да вмъкна няколко важни въпроса:

1. Има ли връзка между китайския старъп и програми на китайското правителство? Как би стоял въпросът с използването на DeepSeek за шпионаж? Какво е нивото на информационна сигурност, което може да се гарантира при използване не само на АI, a на AI с китайски произход?

2. Ще бъде ли AI поредният балон? Огромни инвестиции с идеята, че АI ще замени човешката сила в множество сфери, при условие, че AI не само халюцинира, а и LLMs все още се основават не на действителна интелигентност, а на малко по- хъм.. sophisticated pattern matching (не ми хрумва как да го напиша, нещо като усъвършенствано разпознаване и напасване на модели, подсказвайте за български превод :))

3. AI и международната сигурност. Исторически немалка част от технологичните разработки винаги са били от интерес на военните (като дори са развивани за военни цели). В сегашната ситуация за сигурност в Европа /а и в света като цяло, в която много ясно се оформят два геополитически лагера, каква би била ролята на един китайски стартъп, който хей така, уж от нищото, натри носа на американския big business, в ситуация, в която босовете на големите технологични компании твърде бързо се преориентираха към Тръмп.

Редактирано Вторник в 15:16 от dora

[Кибик]

Преди 19 минути, dora said:

Тук искам да вмъкна няколко важни въпроса:

1. Има ли връзка между китайския старъп и програми на китайското правителство? Как би стоял въпросът с използването на DeepSeek за шпионаж? Какво е нивото на информационна сигурност, което може да се гарантира при използване не само на АI, a на AI с китайски произход?

 

По принцип действително всичко в Китай май има връзка с тяхното правителство, но все пак DeepSeek е отворен код, това означава че всеки може да го изтегли, сложи на някакъв клъстер от сървъри и да го пусне да работи. Аз съм сто процента сигурен, че в момента ВСИЧКИ хамерикански играчи за изтеглили сорс кода и го изучават. Предполагам след месец-два ще видим изявления за нови версии на ChatGPT с китайските подобрения.

[scaner]

Да опитам да коментирам тези въпроси:

Преди 46 минути, dora said:

1. Има ли връзка между китайския старъп и програми на китайското правителство? Как би стоял въпросът с използването на DeepSeek за шпионаж? Какво е нивото на информационна сигурност, което може да се гарантира при използване не само на АI, a на AI с китайски произход?

Никой не може да даде никакви гаранции за връзката с китайското правителство. В Китай всички частни компании, достигнали някакъв успех, се поемат с помощ от държавата. Какви са условията свързани с такава помощ, не е ясно.

Конкретно използването на DeepSeek за шпионаж е многопластов въпрос. Ако го ползвате чрез приложение (китайско) на смартфон, има опасност самото приложение да е шпионинът. От Google и Apple се вземат мерки за контрол на приложенията в техните магазини, но знае ли човек? Ако го ползвате чрез браузер, вероятността за шпионаж е по-ниска - данните които споделяте са вашата поща и IP, което не е много, но позволява да ви следват навсякъде където се регистрирате с пощата си. От компютъра нищо не могат да ви вземат. Това важи не само за китайслото ИИ, а за всяка подобна услуга.

Преди 46 минути, dora said:

2. Ще бъде ли AI поредният балон? Огромни инвестиции с идеята, че АI ще замени човешката сила в множество сфери, при условие, че AI не само халюцинира, а и LLMs все още се основават не на действителна интелигентност, а на малко по- хъм.. sophisticated pattern matching (не ми хрумва как да го напиша, нещо като усъвършенствано разпознаване и напасване на модели, подсказвайте за български превод :))

Не прилича на балон. Това нещо работи, и независимо че не мисли по начина по който мислят хората, резултатът му е неотличим и става все по-добро.

Халюцинирането му в момента е артефакт на конструкцията, но доколкото гледам, работят усилено да се намали проявлението. То и човек се държи по подобен начин, след време спомените му почват да изневеряват, и показания на очевидци на престъпления стават съмнителни...

Самата идея на ИИ е не да го ползвате като база данни, като търсачка заместител на Гугъл, а да ползвате основното му свойство в което е най-добър - да обработва информацията. Там няма халюциниране.

Преди 46 минути, dora said:

3. AI и международната сигурност. Исторически немалка част от технологичните разработки винаги са били от интерес на военните (като дори са развивани за военни цели). В сегашната ситуация за сигурност в Европа /а и в света като цяло, в която много ясно се оформят два геополитически лагера, каква би била ролята на един китайски стартъп, който хей така, уж от нищото, натри носа на американския big business, в ситуация, в която босовете на големите технологични компании твърде бързо се преориентираха към Тръмп.

Това е най-трудният въпрос. Тук има борба между страх и лакомия. Страх, че това нещо може да стане по-умно от хората и да измисли начин да се справи с тях (ако му потрябва), страх че самото му използване усилва куп лоши човешки качества и без никаква зла умисъл от страна на ИИ цивилизацията ни може сама да се скапе, до лакомия, колко ценни неща може да даде това нещо на света и който пръв го направи ще има най-голяма власт.

По последната причина засега въпросите със сигурността силно се неглижират - "ще ги мислим, когато го направим". Което хич не е добра идея с нещо, което може да стане по-умно от нас, и това е основната идея. Китайският стартъп само ще подлее бензин в тоя огън - американците си мислеха, че контролират процеса с ограничението на бързите чипове за Китай, но се оказа че бъркат нещо.

 

Преди 23 минути, Кибик said:

Аз съм сто процента сигурен, че в момента ВСИЧКИ хамерикански играчи за изтеглили сорс кода и го изучават.

От такъв сорс код нищо не може да се научи, те китайците са хитри и затова са го дали   Това е обучената база, тя не подлежи на ревърс-инженеринг. Друг сорс-код няма, освен това което се съдържа във всеки LLM интерпретатор и е достатъчно проверено. Но в него информация за ИИ няма.

Редактирано Вторник в 16:01 от scaner

[Last roman]

Чий е Тайван?

 

И други пикантерии:

[Кибик]

Преди 37 минути, Last roman said:

Чий е Тайван?

 

И други пикантерии:

 

Също трябва да се добави и политичесия комфорт, който хамериканците се надяваха да им даде предимства. Разбира се това че цензурират Тиананмън е свинщина, но в крайна сметка е без значение за техническия прогрес, а това е което важи в крайна сметка.

 

[Grifin]

Преди 28 минути, Last roman said:

Чий е Тайван?

 

Да, и аз прочетох преди малко, че отговаря..политкоректно за Тайван  . Когато аз го попитах за статута на Тайван обаче ми отговори по-обрано:

 

Статутът на Тайван е сложен и чувствителен въпрос, който зависещ от перспективата. Ето няколко ключови точки:

1. Китайска гледна точка: Според Китайската народна република (КНР), Тайван е неразделна част от Китай. КНР смята, че Тайван е провинция, която се намира под временен контрол на правителство, което не е признато от КНР. Китай настоява за политиката "Един Китай", която не признава независимостта на Тайван.

2. Тайванска гледна точка: На Тайван мнозина смятат, че островът е де факто независима държава с собствено правителство, икономика и военна сила. Тайван има собствена конституция, избори и демократично управление. Въпреки това, официално Тайван не се обявява за независим, за да избегне ескалация с Китай.

3. Международна общност: Повечето страни и ООН признават политиката на "Един Китай" и поддържат официални отношения с КНР, а не с Тайван. Въпреки това, много страни поддържат неофициални отношения с Тайван и го подкрепят в областта на икономиката, културата и сигурността.

4. Правен статут: От правна гледна точка, Тайван не е признат като независима държава от ООН и повечето страни. Въпреки това, той функционира като независима политическа единица с висока степен на автономия.

Така че статутът на Тайван е предмет на политически и дипломатически дебати, като различните страни имат различни гледни точки по въпроса.

[Кибик]

Преди 2 часа, scaner said:

От такъв сорс код нищо не може да се научи, те китайците са хитри и затова са го дали   Това е обучената база, тя не подлежи на ревърс-инженеринг. Друг сорс-код няма, освен това което се съдържа във всеки LLM интерпретатор и е достатъчно проверено. Но в него информация за ИИ няма.

Китайците все пак имат публикувани някакви статии за алгоритмите си. Самия факт че показват, че е възможно да се оптимизират алгоритмите до такава степен е достатъчно да даде тласък на конкуренцията да работи в тази посока, иначе губят съревнованието. 

както примерно Спейсекс показа за първи път, че има как да си кацне кораба обратно без парашути и тем подобни и после гледам сега и Амазон и китайците работят по кацащи кораби.

Ей тука:

Гледам нърдовете се събрали да обсъждат резултатите от локалните си инсталации на DeepSeek.

А какво остава за Мета, Гугъл и тем подобни.

 

[scaner]

Намерили са начини да заобиколят част от ограниченията му. На директен въпрос се инати, но на такава форма отговаря:

[Grifin]

Преди 4 часа, dora said:

1. Има ли връзка между китайския старъп и програми на китайското правителство? Как би стоял въпросът с използването на DeepSeek за шпионаж? Какво е нивото на информационна сигурност, което може да се гарантира при използване не само на АI, a на AI с китайски произход?

   Доколкото знам, в Китай има закон за киберсигурността, според който китайските компании са длъжни да предоставят на правителството всички данни, с които разполагат, то затова са и проблемите на TikTok в САЩ, като американците твърдят, че представлява заплаха за националната сигурност фактът, че ТикТок разполага с всякакви, вкл. чувствителни данни за 170 млн. американци (толкова са потребителите от САЩ). Данни обаче събират всички, като впоследствие или ги продават, или продават таргетирана реклама. Apple наскоро се съгласиха да платят 95 млн. по дело за лични данни събирани от Siri, когато е уж изключен, Meta платиха 1,4 млрд:
https://www.cnbc.com/2024/07/30/meta-agrees-to-1point4-billion-settlement-in-texas-biometric-data-lawsuit.html
и това са само някои от случаите, но това са просто бизнес разходи.. Така е с приложенията и социалните мрежи, за LLM модели през браузър не съм запознат.

Преди 4 часа, dora said:

2. Ще бъде ли AI поредният балон? Огромни инвестиции с идеята, че АI ще замени човешката сила в множество сфери, при условие, че AI не само халюцинира, а и LLMs все още се основават не на действителна интелигентност, а на малко по- хъм.. sophisticated pattern matching (не ми хрумва как да го напиша, нещо като усъвършенствано разпознаване и напасване на модели, подсказвайте за български превод :))

   Според мен технологията си работи вече добре в някои сфери, повишава производителността и оптимизира процеси, като нещата ще продължат да се развиват. Факт е обаче, че много хора и компании се възползват от шума и преувеличават и обещават какво ли не, пълно е със зомби компании, които нямат приходи, работят на загуба, правят презентации в които използват вълшебните буквички AI, набират капитал от инвеститори и имат пазарни оценки от по няколстотин млн. до няколко млрд. Изключение в преувеличаването не правят и големите компании, миналата година широкорекламираната AI услуга на Amazon-Just walk out, при която влизаш в магазина, слагаш си покупките в кошницата и излизаш без да минаваш през каса, а плащането се обработва автоматично, се оказа не точно AI, ами около 1000 индиеца..  
https://www.bloomberg.com/opinion/articles/2024-04-03/the-humans-behind-amazon-s-just-walk-out-technology-are-all-over-ai
Та в този смисъл, да, по-скоро е балон, пазарните оценки на технологичните компании са горе-долу на нивата от дот ком балона, очакванията са огромни, и дали и кога ще се оправдаят не е много ясно.

Преди 4 часа, dora said:

3. AI и международната сигурност. Исторически немалка част от технологичните разработки винаги са били от интерес на военните (като дори са развивани за военни цели). В сегашната ситуация за сигурност в Европа /а и в света като цяло, в която много ясно се оформят два геополитически лагера, каква би била ролята на един китайски стартъп, който хей така, уж от нищото, натри носа на американския big business, в ситуация, в която босовете на големите технологични компании твърде бързо се преориентираха към Тръмп.

   Ролята на конкретния стартъп каква ще е, не е ясно, но ролята на големите технологични компании и социалните мрежи, чийто алгоритми могат да определят кое къде ще се вижда или не, става все по-голяма. Тръмп спечели сравнително лесно до голяма степен благодарение на своята социална мрежа, на рамото от Мъск и X, както и подкрепата от инфлуенсъри с голяма аудитория, видяхме какво стана с изборите в Румъния..Ще видим как ще се развият нещата.

Редактирано Вторник в 19:17 от Grifin

[Warlord]

Явно DeepSeek е тясно фокусиран върху математически и логически задачи. Жълтите винаги са били по-добри от нас в това отношение, така че тук не би трябвало да сме особено учудени, че отново го доказват. Но пък техният чатбот е много по-слаб в други отношения, по-горните скрийншотове говорят достатъчно.

Колкото дали ChatGPT е слаб в логическите задачи или програмирането - не съм много убеден дали е така. Действително имам познати програмисти, които го бяха пробвали и казват, че яко омазвал нещата. Но може би не го ползват както трябва. Други познати юристи пък казват, че много добре можел сам да попълва всякакви заявления и дори да консултира по всякакви правни въпроси, което спестява много време, а и средства за консултации с адвокати. Това стига да си го захранил с конкретната база данни (примерно Наказателния кодекс на РБ), а не да го оставиш да си взима информация от рандъм публични данни в нета. Аз го ползвам за други неща и ми върши чудесна работа, но го ползвам по точно определени начини.

Имайте предвид, че това не е някакъв мистичен мъдрец, живеещ в пещера в планината, който може от раз да ви каже какъв е смисълът на живота, вселената и всичко останало. Това е просто един инструмент, с невероятна изчислителна и аналитична мощ, но все пак само инструмент и ако не го използваш по предназначение няма да ти свърши работа, или поне няма да доведе до достатъчно ефктивност в очакваните резултати - ако се опиташ да завиеш винтче с чук, е нормално по този начин инструментът да не ти свърши работа. Що се отнася за логическите задачи и програмирането може би първо трябва да бъде захранен с достатъчно голяма и специализирана база данни по конкретната област; да му се дадат по-ясни и подробни инструкции, все пак при писането на код или сложни логически задачи, проблемът обикновено е комплексен и сложен, така че ако се раздели и зададе на по-малки части вероятно ще има по-добри резултати в отговорите накрая. Това примерно нали, точно в тази област ме няма никакъв за да давам съвети, но за щастие Ютуб вече е пълен с клипчета, където обясняват и показват с кое как да се работи за всеки от приложенията и инструментите на ChatGPT, а те непрекъснато се осъвършенстват и се появяват нови.

Редактирано Преди 14 часа от Warlord

[Exhemus]

Преди 19 часа, dora said:

1. Има ли връзка между китайския старъп и програми на китайското правителство? Как би стоял въпросът с използването на DeepSeek за шпионаж? Какво е нивото на информационна сигурност, което може да се гарантира при използване не само на АI, a на AI с китайски произход?

За момента, това, че китайски софт ме шпионира, не ме плаши. Китайците не привикват политици в посолството и не ни назначават правителство (все още). Нека си шпионират. Алиекспрес вече ми знае навиците и така ми върши много добра работа  

....

Без да съм чел много, ми се очертава, че сегашните ИИ се основават много на копиране на алгоритмичната база на природният интелект. Но природата по принцип не оптимизира. Достигайки някакъв резултат, даже с разход на огромни ресурси, а също и с влошаване на резултата от други нейни достижения, Тя гледа нетния резултат. Ако оптимизацията ще доведе до нов осезаем резултат, чак тогава Природата се заема... Та, нашият мозък, след като е постигнал много добър резултат (наличие на разум), не си задава въпроса дали го е постигнал по оптимален начин. Казано по програмистки: мозъкът ни представлява "спагети код". Точно този "спагети код" е копиран в ИИ. Така са възможни драстични оптимизации. Китайците, изглежда, са направили някакви?  Ето например, насоката "NeuroSymbolic" - присаждане на "Пролог" и др. подобни алгоритми за извод към Невронна мрежа има шанс да я оптимизира, тъй мато невронната мрежа по принцип копира несъвършенният ни мозък.