Информация - неуловимата изплъзваща се дефиниция

[ramus]

Статиите и материалите в тази тема, ги пускам след като се зачетох в списанието "светът за ФИЗИКАТА" и последния му брой. В една от неговите публикации, озаглавена "Нова генерация компютърни мрежи" , авторката Пламена Колева прави уводните си думи относно понятието "ИНФОРМАЦИЯ" с твърде елементарен поглед над проблема. Съвсем ясно става че проблема с широтата на понятието ИНФОРМАЦИЯ е огромна и не е това центъра на статията. Но поне можеше да го загатне, за да бъде коректно и честно. Поне през моя поглед - на невеж и необразован среднист  Все пак това е статия, която излиза в интернет пространството като част от списание за ФИЗИКАТА. И с нейните ключови думи ("информация",  като индекс" , тя би била намерена и после някой ще се позове на нея - както често се случва сред всички форми на писмена комуникация...

В мотивацията ми също участва опитите в друга тема да се подходи към друго понятие - от същия абстрактен ранк, както е "ИНФОРМАЦИЯ" - това е "СЪЗНАНИЕ". Още повече че двете понятия са "висши понятийни абстракции" и те някъде имат своята "връзка помежду си"... В същата тема, там, бяха и настойчивите опити няколко човека да изразят че няма никакви проблеми което и да е било понятие да се "обясни" - достатъчно е само да му се избере гледна точка, като призма и да се нагласят обясненията му спрямо една или друга обяснителна система. По този начин - вместо обясненото понятие да е някъде в "края" на извежданията, те го предпоставят с набор от специфични фрагментни условни описания, за да служи само по себе си като фрагмент в системата на друга обяснителна и описателна концепция. Това, обаче не решава по никой начин проблема за висшата абстрактност на няколко понятия и грешките да се описват като еквивалентни на техните производни.

Сред мотивацията ми е и извода че форумът е изпълнен главно с философски последователи от всякакъв тип, и в претенциите им колко велики мислители изповядват не са стигнали до развитието им, а са останали дотам, докъдето им е достатъчно да си го ползват за лични цели. И в размишленията и естествените уклони на убежденията им - липсват съ6ществени фрагменти от нови постижения, ставащи все по-значими и имащи пряка роля в което и да е разглеждане - особено на понятия като СЪЗНАНИЕ и ИНФОРМАЦИЯ. Визирам като пример ИНФОРМАТИКАТА - защото тя е сложно съставно на симулация на начина по който човека си представя че възприема реалността, сред която избира да се ситуира, да изследва, да прониква... Именно ИНФОРМАТИКАТА предлага нов тип понятийна и обяснителна переспектива на горните две понятия - СЪЗНАНИЕ и ИНФОРМАЦИЯ. А участниците с философски класически уклон, сред форума, вместо да се ограмотят, си карат на инерциите с претенцията кое е истина, по кой проблем някой вече бил написал и било изяснено...

Като един полуграмотен и невеж, заблуден и некомпетентен участник - според академичните корифеи на форума - имах наглостта да изведа някои абстрактни изводни положения, резултат от синтезните ми опити, свързани с чисто лична практическа насоченост. Това не ми пречи да ги изнеса и сред някои теми, според някои счетени за мен подходящи контексти. И без да се интересувам от етикетите на един или друг четящ.

Разбира се - груповите и лични стъкмистики по едно или друго - са си работа на нуждаещите се от това. Но смятам че някои положения от света на познанието не се основават само и единствено на науката - като идеология, нагласена да бъде използвана за чисто личните човешки потребности по екзистенцията. Защото вече като идеология - се подменя целия принцип на рационалния поглед на който и да е човешки субект, спрямо битието му. А нещото, наречено "наука", сред социалното популярно пространство се превзема главно от нейните идеолози и последователи. Същите народните идеолози на "религията наука" са в някакви претенции че именно те са говорителите и изразителите на "истината за света и живота". А по същото - сравнително лесно може да се ползва за критерий за диференциране между ПОЗНАНИЕТО "НАУКА" и Научните идеолози и последователи - по настояването за "крайна истина"...

И така - статиите не са строго научни, те са от популярното виртуално пространство - някои са по-сериозни и задълбочени, други - не толкова. Но всеки материал е някакъв фрагмент от безкрайния океан на проблемите, свързани с опознаването на света през груповата и лична призма на човешките същества.   Ще ги пускам периодично, което не пречи ако някой достигне до подобна статия, касаеща ИНФОРМАЦИЯта и нейните безкрайни аспекти, производни и приложения.

Редактирано Юни 27, 2018 от ramus

[ramus]

Няколко грамотни основни думи, базови принципни и понятийни положения, касаещи в първата си част съществени аспекти на понятието ИНФОРМАЦИЯ и значението му за човешкото битие, на всички равнища и мащаби:

http://techs-mobile.blogspot.com/2010/07/blog-post_31.html

Ще я пусна съдържанието тук, по мои съображения.

====================

Информация и информатика

 

Информацията в материалния свят

Информацията е понятие, с което си служим постоянно в ежедневието. Различните науки го изпълват с различен смисъл, определяйки го в различен контекст. Ето защо еднозначно определение за информацията не съществува. На латински, от където произхожда термина, "информация" означава сведение, разяснение.

Сигнали и данни

При взаимодействието на физическите тела в материалния свят те си обменят енергия, пораждаща сигнали. Като следствие на последните в телата настъпват определени изменения, които могат да се наблюдават, измерват или фиксират по различен начин. При това възникват и се регистрират нови сигнали, т.е. формират се данни. Следователно, данните са зарегистрирани сигнали.

Данни и методи

Данните носят в себе си информация за събитията, произтичащи в материалния свят, доколкото те регистрират сигнали, възникващи в резултат на тези събития. В същото време данните не са тъждествени на информацията. За възникването на информация е необходим метод, който да преобразува данните в понятия.

Понятие за информация

Различните научни области дават различни определения на информацията:

• съвкупност от данни, които повишават равнището на знания за обективната реалност;
• съвкупност от данни, които могат да бъдат усвоени и преобразувани в знания.

Информацията от гледна точка на информатиката не може да се определя чрез понятието знание, защото тя подлежи на автоматизирана обработка от машини, който са напълно безразлични към нейния смисъл и прагматична стойност. Машините могат да обработват включително и лъжлива информация. Ето защо авторът я определя като "продукт на взаимодействието на данните с адекватните им методи". Информацията се появява само когато е налице взаимодействие на данните с адекватните методи за тяхната обработка. Т.е. информация съществува само в контекста на информационния процес /обработването и придаването на смисъл на данните/. В останалото време тя съществува във вид на данни. Едни и същи данни могат да донесат различна информация на различните потребители в зависимост от методите на обработка, които те използват. Данните са обективни, доколкото те отразяват движението и взаимодействието в материалния свят, а информацията е субективна, доколкото метода за трансформация на данните принадлежи на определен субект. Т.е. информацията възниква при взаимодействието между обективните данни и субективните методи.

Свойства на информацията

На свойствата на информацията влияят както свойствата на данните, така и свойствата на методите, взаимодействащи с данните в хода на информационния процес. От този дуализъм произтичат и нейните свойства:

• обективност и субективност на информацията – обективността на информацията е относителна доколкото методите за нейното получаване са субективни. За по-обективна се смята онази информация, при която методите внасят по-малко субективен елемент. Напр. отразяването на природата от фотоснимка и рисунка. В хода на информационния процес степента на обективност на информацията винаги се понижава;
• пълнота на информацията – Пълнотата на информацията характеризира нейното качество и определя дали данните са достатъчно, за да се вземе решение или за създаването на нови данни на основата на съществуващите. Колкото по-пълни са данните, толкова по-широк е диапазона на методите, които могат да бъдат използвани за тяхната обработка, за да се намали процента на грешка в информационния процес;
• достоверност на информацията – данните възникват в момента на регистриране на сигналите, но не всички сигнали са "полезни". Винаги има данни, които не са съществени за отразяваното явление, които създават т.нар. "информационен шум". Колкото полезните сигнали са регистрирани по-ясно, толкова по-достоверна е информацията. При увеличаване на шума, достоверността на информацията се понижава. В такъв случай за извличане/предаване на тази информация са необходими данни или по-прецизни методи;
• адекватност на информацията – това е степента на съответствие на реалното обективно състояние на нещата. Неадекватната информация може да възникне при обработване на непълни и недостоверни данни. В същото време и пълни данни могат да са основа за получаване на неадекватна информация когато се интерпретират с неподходящи методи;
• достъпност на информацията – измерва възможността за получаване на една информация. На степента на достъпност на информацията влияе и достъпността на данните, и достъпността на методите за тяхното обработване. Отсъствието на адекватни методи за обработка на данните води до получаването на недостоверна, неволна и неадекватна информация;
• актуалност на информацията – степента на съответствие на информацията на текущия момент. Нерядко с актуалността е свързана търговската стойност на информацията. Доколкото информационните процеси се разгръщат във времето, то достоверна и адекватна информацията могат да доведат до вземането на неправилно решение, ако тя не е вече актуална.

Данни

1. Носители на данни
   Данните са за регистрирани сигнали. Физическите методи за регистриране на данните могат да са най-различни – механическо преместване, водещи до изменения във формата и качеството, на електрическите, магнетични, оптически, химически характеристики и пр. на обектите. В съответствие с методите за регистриране, данните могат да се съхраняват и пренасят на различни носители. Един такъв носител е хартията, където данните се регистрират чрез изменение на оптическите характеристики на нейната повърхност. Изменение на оптическите свойства стават и при запис с лазерен лъч на пластмасови носители с отражаващо покритие – компакт дискове (CD – ROM). В качеството на носители, използващи изменение на магнитните свойства, могат да служат магнитни ленти и дискове. Регистриране на данните чрез изменение на химическия състав на повърхността на веществата се използват във фотографията. На биохимично равнище става съхраняването на данни в живата природа.
   Информацията винаги е тясно свързана със свойствата на носителите на данни. Всеки носител се характеризира с параметри като: разрешаваща способност /количеството данни записани на носителя в характерна за него измервателна единица/ и динамически диапазон /амплитудата между максималния и минималния регистриран сигнал/. От тези свойства на носителя не рядко зависят такива свойства на информацията като пълнота, достъпност и достоверност. /напр. сравнение между книга и компакт диск, слайд и хартиена презентация/.
2. Операции с данни
   В хода на информационния процес данните се преобразуват от един вид в друг с помощта на методи. Обработката на данните включва множество различни операции:
   • събиране на данни - натрупване на данни с цел осигуряване на достатъчна пълнота за вземането на решение;
   • формализиране на данните – привеждане на данните, постъпващи от различни източници в еднаква форма, за да станат съпоставими да се повиши тяхното ниво на достъпност;
   • филтриране на данните – отстраняване на информационния шум за повишаване на достоверността и адекватността на информацията;
   • сортиране на данните – подреждане на данните по определен признак за удобство при използването им и повишаване на достъпността на информацията;
   • архивиране на данните – организиране на съхраняването на данните в удобна и леко достъпна форма;
   • защита на данните – комплекс от мерки, насочен към предотвратяване на загубата на данни, за възпроизвеждане и модификация на данните;
   • пренос на данни – приемането и предаването на данни между отдалечени участници в информационния процес. При това в информатиката е прието източника на данни да се нарича сървър, а потребителя – клиент;
   • преобразуване на данните – превод на данни от една форма в друга или от една структура в друга. Преобразуването на данните често е свързано с промяна и на носителя /напр. от книга върху електронен носител/. Необходимост от многократно преобразуване на данните възниква при тяхното транспортиране /напр. от компютър по телефон до компютър с използване на модем/.
   1. Кодиране на данните
      За автоматизирана работа с данни, отнасящи се към различен вид, е много важно да се унифицира формата за тяхното представяне, т.е. да се кодират, което означава изразяване на данни от един тип в данни от друг тип. Естествените човешки езици не са нищо друго освен системи за кодиране на понятия и изразяване на мисълта чрез реч. Системата за графично кодиране на езика напр. е азбуката. Такива система за кодиране използват различните науки. Напр. математическите цифри и формули, телеграфната азбука, морската азбука, Брайловата система и др. В изчислителната техника се използва двоична система на кодиранe, при която данните са представени като последователност от два знака – 0 и 1. Те се наричат двоични числа /на англ. binary digit/ откъдето идва и мерната единица – bit. С един bit могат да бъдат изразени две числа – 0 и 1- да или не, черно или бяло, има или няма и пр. Ако количеството на битовете стане две, те могат да изразят четири понятия, представени по следния начин: 00, 01, 10, 11. Следователно с увеличаване на количеството битове в двоичната система се удвоява количеството значения, които могат да бъдат изразени чрез тях.

      Аналогова и цифрова информация

      
      От гледна точка на информатиката има два вида информация – аналогова и цифрова. Основната разлика е в това, че аналоговата е непрекъсната, а цифровата е прекъсната /още дискретна/. Човек възприема чрез сетивата си непрекъсната информация – светлина, звук, топлина, цвят. Когато я записва, той използва различни знаци – букви, цифри, ноти. По този начин той превръща аналоговата информация в дискретна. Всяка аналогова информация може да се представи чрез дискретна и този процес се нарича дискретизация. Грешката, получена при такова представяне, се нарича грешка от дискретизация. Колкото е по-малка стъпката на дискретизация, толкова приближението до първообраза е по-голямо. Точността се увеличава за сметка на много голям брой стойности. Такова преобразуване на аналогова информация в цифрова се нарича аналогово-цифрово преобразуване. Това се прави и при създаването на филм напр., където непрекъснатите движения се снимат на отделни кадри с голяма честота. Съвременната кинотехника прави 24 кадъра в секунда, които при възпроизвеждане се възприемат като непрекъснат образ.
      
   2. Единици за измерване на данни
      Съществуват много различни системи за измерване на данни. В информатиката за измерване на данните се използва факта, че различните видове данни имат универсално двоично представяне. Най-малката единица за измерване е байта. Доколкото с един байт се кодира един символ текстова информация, то за текстовите документи размерът им съответства на лексическия обем в символи.
   3. Единица за съхранение на данните
      При съхраняване на данните се решават два основни проблема: как да се съхранят те в най-компактен вид и как да се осигури лесен и бърз достъп до тях. За да се осигури достъпа е необходимо данните да са съхранени в някакъв порядък /структура/, при което се образува т.нар. "паразитно натоварване" във вид на адресни данни. Без тях обаче е невъзможен достъпът до данните. Доколкото тези данни също трябва да се съхраняват /а те са много малки/ използването на байтове е неудобно. Затова се използва друга единица – файл. Файлът е последователност от произволно количество байтове, притежаващи уникално собствено име. Обикновено в даден файл се съхраняват данни от един и същи тип. В този случай типът на данните определя типа на файла. Файлът няма ограничен размер. Той може да има 0 байта размер, както и всяко друго число размер.Особено значение има името на файла. То носи в себе си адресните данни, без които той не може да стане информация, доколкото не съдържа в себе си метод за достъп.Името освен това носи и информация за типа на данните във файла. За автоматичната обработка на данните това е много важно, доколкото по името на файла машината може автоматично да определи адекватен метод за извличане на информация от него.

Информация и данни

Данните са суровия материал на информацията. Те са организирани символи /числа, букви, картини/, които са представителни за определени събития. Те не съдържат смисъл само по себе си. Смисъла предполага разбиране, което от своя страна предполага когнитивна активност от някакъв вид. Веднъж, приложен към данните, смисълът, разбирането и оценяването ги превръщат в информация.

Шенон и Уивър /1949/ - определят информацията като "намаляване на несигурността", данни, които увеличават зоната на разбирането и водят съзнанието към ново знание за света. Следователно, ние не сме информирани, когато ни се казва нещо, което вече знаем. Ние сме информирани, когато данните – обект на комуникацията увеличават и обновяват нашето възприемащо съзнание. Когато се информираме нашето съзнание и живот, в определен смисъл, се променя.

Debons (1988) – knowledge spectrum

Този континуум започва с възникването на събитие, което се състои в промяна на състоянието на света. Събитието е възприето от нашите сетива използвайки определени символи – обикновено безсмислени представи изискващи правила и формулировки, които да им придадат смисъл и значение. Веднъж след като представителите на символите са организирани при използването на правилата и формулировките се произвеждат данни. До този момент съзнанието не е ангажирано.

Уловените чрез сетивата данни активират съзнанието. Ако данните намаляват несигурността, информацията е резултат от опита. Съзнанието се променя физически в буквалния смисъл на думата с нарастването на знанията. Както показват наблюденията на Oliver Wendell Holmes "Съзнанието, изправено пред нова идея, никога не се връща обратно към предишните си измерения".

Информацията се прибавя към съхраняваните от паметта знания, когато интелекта включва разбирането за осъществяването на връзки вътре в нея, давайки възможност на съзнанието да използва знанията си, за да я анализира и да я подреди в определени, вече известни на него схеми". Решаването на проблеми не може да се осъществи в среда на вакуум – то възниква от знанията, базирани на едно информирано съзнание. Последния етап на този спектър е мъдростта, която създава система от ценности, за обвърже преценките, произтичащи от съхранените знания и акумулирани от опита.

Трансфера от данни до информация е уникален за всеки индивид. Трансфер е ключова дума, когато говорим за трансформацията на данни в информация.

Информатика

1. Предмет и задачи на информатиката
   Информатиката е техническа наука, систематизираща способите за създаване, съхраняване, възпроизвеждане, обработване и предаване на данни със средствата на изчислителната техника, а също и принципите на функциониране на тези средства и методите на тяхното управление.
   От това определение е очевидно, че информатиката е много близко до технологията затова често я наричат информационна технология.
   Предмет на информатиката съставляват следните понятия:
   • машините, осигуряващи изчислителната техника;
   • програмното осигуряване на изчислителната техника;
   • средствата за взаимодействие между машините и програмите;
   • средствата за взаимодействие между човека и машините, както и програмите.
   Както се вижда тук особено място се отделя на взаимодействието Това взаимодействие се определя с понятието интерфейс. Методите и средствата на взаимодействие на човека с машините и програмите се нарича потребителски интерфейс. В същото време съществуват машинен интерфейс, програмен интерфейс и машинно-програмен интерфейс.
   Информатиката е практическа наука. Нейните постижения се прилагат в практиката за повишаване на нейната ефективност. Информатиката е наука за информацията, независимо от конкретното й съдържание, която систематизира и развива методите и средствата, свързани с основните информационни дейности и тяхната автоматизация". Тя отговаря на въпросите:
   • Как да събираме и съхраняваме информацията?
   • Как да обработваме информацията?
   • Как да използваме комуникационната и изчислителна техника?
   • Как да управляваме основните информационни процеси?
2. Източници на информатиката
   Думата информатика идва от френския дума Informatique, образувана от обединяването на термините Information /информация/ и Automatique /автоматика/, което я предопределя като наука за автоматизираната обработка на информацията. В наши дни в повечето страни на Западна Европа и САЩ вместо нея се използва друг термин – компютърни науки.
   В качеството на източници на информатиката се посочват обикновено две науки – документалистика и кибернетика. Първата се занимава с изучаването на рационални методи и средства за повишаване на ефективността на обработката на документи. В основата на кибернетиката са залегнали трудовете по математическа логика на американския математик Норберт Винер, публикувани през 1948 г. /кибернетика от гръцката дума kiberneticos – изкуството да се управлява/.
   Предметът на кибернетиката се свежда до принципите за построяване и функциониране на системите за автоматично управление, а задачите:- методи за моделиране на процесите за вземане на решения с помощта на технически средства;- връзката психологията на човека и математическата логика;- връзката между информационните процеси на отделния индивид и информационните процеси в обществото;- разработката на принципите и методите на изкуствения интелект.
   На практика кибернетиката се опира на постиженията на информатиката /програмите и изчислителните машини/, а информатиката заимства от кибернетиката математическата и логическата база за развитието на тези средства.

[ramus]

fresh-science.com

 

Удивителната връзка между невронните мрежи и природата на Вселената

Автор: Свежа Наука

През последните няколко години машинното обучение преобрази света на изкуствения интелект. Една по една, способности, които доскоро приемахме за уникално човешки качества, вече започнаха да стават достъпни за все повече машини. Един такъв пресен пример е демонстрацията на Google Duplex. При специализирани задачи, дълбоките невронни мрежи вече надминават човешките способности, като при разпознаване на лица и обекти, и дори диагностициране на заболявания като рака. Изкуственият интелект вече усвои интуитивната игра Go и победи най-добрите играчи, което постави крайъгълния камък в историята и развитието на изкуствения интелект.

Но съществува проблем. Учени и инженери не разполагат с математическо обяснение, защо подредените в слоеве невронни мрежи са толкова ефективни при подобни предизвикателства. Математици и физици са объркани. Въпреки огромния успех на дълбоките невронни мрежи, никой не е напълно сигурен как те постигат невероятните резултати. Но днес, благодарение на работата на Хенри Лин от Харвардския университет и Макс Тегмарк от МИТ, това е на път да се промени. Според тях, причината поради която математиците са толкова притеснени, е, че отговорът зависи от природата на самата вселената. С други думи, същината на отговора се крие във физиката на самата материя, а не в математиката.

Как дълбоките невронните мрежи стигат до решение?

Нека да се опитаме да разрешим проблема, като използваме пример за класифициране на черно-бяло изображение, за да определим дали показва котка или куче. Едно такова изображение се състои от милион пиксела, които могат да варират в 256 различни стойности на сивото. Така че, в тези условия, на теория може да съществуват 2 561 000 000 възможни изображения, и за всяко едно е необходимо да се изчисли дали показва котка или куче. Това е абсурдно много работа, и все пак невронните мрежи, само с хиляди или милион входни изображения, успяват да направят тази класификация с лекота, без да изчисляват всички вероятности.

На езика на математиката, невронните мрежи работят чрез осредняване на сложните математически функции с по-простите такива. Когато става дума за класифициране на изображения на котки и кучета, невронната мрежа трябва да изпълни функция, която приема като вход милион пиксела в сивата скала и извежда вероятностно разпределение на това, което могат да изобразяват. Звучи сложно и в действителност е сложно, защото под капака се крие (и се случва) много повече от архитектурата, която пресъздава процеса.

Проблемът е, че масивът на (входните) математически функции е по-голям от броя на потенциалните невронни възли, които могат да ги осреднят. И все пак дълбоките невронни мрежи по някакъв начин получават правилния отговор. Сякаш се възползват от някакъв основен принцип, който неволно извиква асоциации с начина по който работят и квантовите изчисления и дори холографията – свойства от нисък порядък, които представляват фундаментални и универсални характеристики на материята, или поне на начина, по който я възприемаме.

Винаги когато пишем за квантови компютри и невронни мрежи, обичаме да намекваме за изчислителната мощност на самата материя. Но ето, че сега Лин и Тегмарк ни дадоха едно правдоподобно обяснение за това защо това е така. Според тях, отговорът се крие в това, че вселената се управлява от малко подмножество от всички възможни закономерности. С други думи, когато законите на физиката се описват математически, те могат да бъдат описани от функции, които имат малък набор от забележително прости свойства. Така дълбоките невронни мрежи не трябва да осредняват всяка възможна математическа зависимост, а само малка част от тях.

За да поставим това в перспектива, помислете за реда на полиномна функция, която представлява размерът на нейния най-висок експонент. Така че квадратно уравнение като y = x2 ще има ред 2, а уравнението y = x24 – ред 24 и т.н. Очевидно е, че броят на реда е безкраен, но въпреки това в законите на физиката имаме само малко подмножество от експоненциални зависимости. „Поради причини, които все още не са напълно разбрани, нашата вселена може да бъде правилно описана от полином с нисък ред“, обясняват Лин и Тегмарк. Обикновено полиномите, които описват законите на физиката, имат ред, вариращи от 2 до 4.

Законите на физиката имат и други важни качества. Например, когато става въпрос за ротация и движение, те обикновено са симетрични. Завъртете котка или куче на 360 градуса, ще изглеждат същите; преместете го на 10 метра или на 100 метра, или на километър, ще изглежда същото. Това опростява задачата за осредняване в процеса на разпознаване на котка или куче.

 

Храна за мозъка! Срежете холографската плака на две части и ще имате две еднакви изображения с по-малка разделителна способност – цялостта и смисълът на изображението не са изгубени. Интересно е дали интерференцията като свойство на материята също може да има участие в дистрибуцията на информацията в невронните мрежи; дали паралелизмът в невронните мрежи не създава условия за интрерференчно извеждане на решение, подобно на квантовите изчисления? И при двете архитектури с повтаряне на итерациите нараства прецизността.

Тези свойства означават, че невронните мрежи не трябва да осредняват безкрайните математически функции, а само малка част от най-простите. Вселената притежава и едно друго интересно свойство, от което невронните мрежи се възползват. Това е йерархията на структурата на материята – фракталността. „Елементарните частици образуват атоми, които на свой ред образуват молекули, клетки, организми, планети, слънчеви системи, галактики и т.н.“, обясняват Лин и Тегмарк. Сложните структури често се формират чрез поредица от по-прости стъпки и правила.

Ето защо структурата на невронните мрежи също е от значение: слоевете в тези мрежи могат да осредняват всяка следваща причинно-следствена стъпка.

Лин и Тегмарк дават за пример реликтовото излъчване, ехото от Големия взрив, което отеква във Вселената. През годините различни космически апарати правят изображения на излъчването с все по-висока резолюция. И, разбира се, физиците са озадачени защо тези карти показват точно това изображение. Учените посочват, че каквато и да е причината, това несъмнено е резултат от причинна йерархия. „Набор от параметри определя спектъра на колебанията в нашата Вселена, което на свой ред определя модела на космическото микровълново фоново лъчение, достигащо до нас от нашата ранна вселена.“

Всеки от тези причинно-следствени слоеве съдържа прогресивно повече данни. Има само една шепа космологични параметри, но картите и шумът, са съставени от милиарди стойности. Целта на физиката е да анализира ясните числа по начин, който разкрива по-неясните. И когато явленията се подчиняват на тази йерархична структура, невронните мрежи правят процеса на анализирането им значително по-лесен.

„Ние показахме, че успехът на дълбокото и ефективно обучение зависи не само от математиката, но и от физиката, която благоприятства определени класове от изключително прости разпределения на вероятностите, които дълбокото обучение (изкуствени и естествени невронни мрежи) е уникално приспособено да моделира,“ заключават Лин и Тегмарк.

Този свеж доклад представлява някои интересни и важни заключения, със значителни последствия за изкуствения интелект и науката като цяло. Не е безизвестно, че изкуствените невронни мрежи са взаимствани от биологичните. Така че идеите на Лин и Тегмарк не само обясняват защо машините за дълбоко обучение работят толкова добре, но и обясняват защо човешкият мозък е така добър в откриването на смисъл във Вселената.

А и сега, когато най-накрая започваме да разбираме как дълбоките невронни мрежи работят, математиците ще могат да започнат да изследват задълбочено ключовите им свойства, които им позволяват да се представят толкова добре. Дълбокото обучение направи огромни крачки през последните години, а със задълбоченото им разбиране, скоростта на напредъка ще се ускори.

[Incorrectus]

On 27.06.2018 г. at 11:27, ramus said:

В мотивацията ми също участва опитите в друга тема да се подходи към друго понятие - от същия абстрактен ранк, както е "ИНФОРМАЦИЯ" - това е "СЪЗНАНИЕ". Още повече че двете понятия са "висши понятийни абстракции"

Само една реплика. Защото като започнеш с фундаментална грешка, цялата тема ще ти върви накриво. Понятията не са абстракции, защото са думи - обозначители, които просто трябва да се знаят. А това, което обозначават, може да е абстракция, а може и да не е.

Пиши си сега, повече няма да ти преча.

[ramus]

1. Смятам че се бъркат явленията КОМУНИКАЦИЯ и ИНФОРМАЦИЯ. Комуникацията се основава на обмен на информация, но ИНФОРМАЦИЯ се предава и без да е налице КОМУНИКАЦИЯ - ИНФОРМАЦИЯТА е далеч по-абстрактното и общо понятие.

2. КОМУНИКАЦИЯТА е двустранен пренос на данни и адекватното им преобразуване в най-малко две страни в нея. Отделно от това КОМУНИКАЦИЯТА ПРИ ЧОВЕКА - вече е най-сложния вариант на комуникация, заради високата степен на неопределеност. Често комуникацията осигуряваща канал за обмен между хората - се нарича ОБЩУВАНЕ. ОБЩуване - обмен на базата на заварени или колективно-договорени ОБЩи (или близки, сходни) начини в предаването, обработката и на свой ред пораждането на "отговори"...

----------------

3 . Важна особеност е - че колкото повече е обработката на предадените по каналите данни - толкова в тях се натрупва "шум" от всеки етап от нея. Това важи както за машини, така и за хората. А особено при хората - възприятие, интерпретация, отражение - не са глобални процеси, а са сложно-каскадни - в смисъл че в мозъка това не са линейни, нито еднопосочно-последователни. Много често отражението в една мозъчна система, се пренася по канала за възприятие - при друга система. Всичко това се наслагва както вълновата картина на голямо езеро в което измененията и движението във водата, почвата и въздуха непрекъснато създават свои типове вълни, а във водната среда всички се събират и си взаимодействат помежду си. Последното поражда на свой ред вълни, които също взаимодействат с общото... Рефлексията на едни вълни пораждат други вълни, които също участват в рефлексии, от тях се поражда други вълни...

3. много важен друг аспект на КОМУНИКАЦИЯТА е:

Всяка система от взаимодействащи си елементи, има "свой резонансен кръг" на който се основават тия взаимодействия. за да участва същата система, във взаимодействие с други системи, е нужно да се обособи обмен на базата на "резонансните кръгове" на всяка от тях. В общ смисъл - много сложно е да се реализира КОМУНИКАЦИОНЕН ОБМЕН между две системи, които са на "различни резонансни вътрешносистемни схеми". В общ смисъл - нужно е близост и съответствие на "честотата" (особеностите) на две системи, за да влизат във взаимодействие помежду си, до степен на обмен - на информация и енергия. Същото изискване е - за да остановят комуникативен канал. 

В този смисъл - всяко човешко същество реализира свой "вътрешен тип комуникация" (чрез свои особености 'отвътре" ). Ако е налице резонансни явления с други субекти - е налице сравнително адекватен обмен. Ако обменът е на ниско когнитивно ниво, ако преноса е инстинктивен, повърхностно-асоциативен (бързата система за разпознаване) - формите са еднакви на съдържанието. При два такива субекта - това става "естественост", защото примитивното ниво подава бързина при възприемането, разпознаването и реагирането и са налице съответствия по канала за комуникация.

Но при повишаване на нивото на периметрите на обобщение (абстрактност) - описаната схема на комуникация вече става недостатъчна и неадекватна. Това се отнася както вътре в психичния обмен в самия субект, така се отразява и при комуникацията му с други субекти... 

Отделно от това - още една важна особености:

Динамичното наслагване (развитие) в даден субект, променя неговата ВЪТРЕШНА схема за комуникация и информационен пренос. Колкото повече се натрупва, повишаването на обратните връзки между различните условни дялове и системи в мозъка подават възможност за повишаване на организираността и структуирането - което поражда и общия резултат от това. Същото рефлектира и върху самия субект и неговите лични качества, възможности, особености, Променят и неговата идентичност, променят визията му за света, живота, вселената, себе си... Променят се и неговите комуникативни възможности, особености, потребности и това рефлектира и в участието му в тях.

Редактирано Юли 11, 2018 от ramus

[ramus]

https://bg.wikipedia.org/wiki/Теория_на_информацията

===============

Теорията на информацията е клон от теорията на вероятностите и математическата статистика; неин обект е информацията.

Теорията на информацията е свързана с информационната ентропия, информационните и комуникационните системи, предаването на данни и теорията на скоростта на изказването, криптографията, корекцията на грешки и други близко граничещи области.

Основоположник на тази област е Клод Шанън с публикуването на труда „Математическа теория на комуникациите“ (на английски: A Mathematical Theory of Communications) през 1948 г.

През 1967 г. професор Робърт Тейлър учредява първото научно дружество за информационна наука. Информацията се определя като обмен на данни между индивидите, между автоматите, обмен на сигнали в растителния и животински свят, предаване на признаци от клетка в клетка, от организъм в организъм.

Информацията се предава под формата на съобщения през информационни канали. Информационните съобщения изпълняват 3 основни функции:

1. десигнативна^[1] – отразява обикновената информация за обкръжаващата ни действителност;
2. експресивна^[2] – отразява мотивите, целите на индивида, предаващ някакво съобщение;
3. инструментална^[3] – отразява въздействието на информационното съобщение върху получателя.

Всяко едно информационно съобщение има няколко аспекта:

1. количествен,
2. семантичен^[4] (съдържателен),
3. структурен (отразява степента на сложност),
4. прагматичен^[5] (използваемостта на съобщението).

Всяко информационно съобщение се състои от три части:

1. смисъл,

2. знак,

3. физически носител.

Трите основни характеристики на информацията са количество, качество и ценност.

1. Количество – изразява се в/с битове (Клод Шенън) – понятие с два равновероятни изхода е 1 бит.
2. Качество – има три аспекта:
   1. смисъл – анализира се съдържанието (анализ на съдържанието – content analysis);
   2. структура – степента на сложност на информационната структура, свързана със смисъла;
   3. сложност на информационното съобщение.
3. Ценност – има субективен характер, защото зависи от индивида и целите му. Тя е свързана с две фундаментални понятия:
   1. релевантност^[6] – изисква информационните съобщения да отговарят на тематиката на запитване;
   2. пертинентност^[7] – информацията, която е нова за потребителя, изменя представите му за даден обект, процес, явление или допълва неговото знание в друг аспект.

Двете понятия не са синоними. Има изискване за достоверност, актуалност, новост, многоаспектност и т.н. Формите на съществуване на информацията са три:

1. асимилативна^[8] – получателят на информация я асимилира, обработва и запаметява;
2. документална – записва се на някакъв физически носител;
3. комуникативна^[9] – разновидност са цифровата (дигиталната) и мултимедийната – обмен на данни и факти между индивиди, автомати и др.

Бележки

1,Обозначителна, обозначаваща, отбелязваща, посочваща.

2.Изразителна, изразяваща.

3.Способстваща, служеща като средство/оръдие (за нещо, за изпълнението на някаква цел, намерение, план или желание).

4.Отнасящ се до смисъла, тълкуванието.

5.Практичен, реален, реалистичен (в опозиция на идеалистичен).

6.От английската дума „relevance“, която в превод на български означава „уместност, връзка, приложимост, практическо/обществено значение“.

7.От английската дума „pertinence“, която в превод на български означава „уместност“.

8.Поглъщане, усвояване, (претопяване).

9.Която е в услуга на, и служи за, осъществяване на общуването.

Редактирано Юли 11, 2018 от ramus