Microsoft konferencia bola opäť v AI kontexte. Toho sme si užili u Googlu, užijeme si o dva týždne u Apple, ale poďme sa zamyslieť, prečo je to tentoraz iné. Všetci máme zaškatuľkované AI ako toho chatbota, s ktorým si môžete porozprávať. Väčšinou skúšame všetko možné a vytešujeme sa, keď ho prichytíme pri nepresnostiach. To tu budeme mať ešte dlho, lebo ľubovoľný LLM model je štatistický model, ktorý viac-menej náhodne odhaduje ďalšie slovo.
Google spustil v USA AI Overview vo vyhľadávaní… Takže AI overview začal odporúčať pridať lepidlo do syra na pizzu, aby sa nešmýkal (niekto to zo srandy odporučil v jednom Reddit fóre) . Odporúčal jesť kamene, spáchať vraždu, atď
Som zvedavy, kedy vznikne povolanie “Ucitel / Vychovavatel AI”, kde sa AI bude ucit postupne a clovek ho bude priebezne vychovavat.
Dost som nad tym rozmyslal a podla mna to k tomu raz nevyhnutne dospeje. AI bude musiet mat viac vrstiev, podobne ako ludsky mozog a jedna vrstva bude common sense a hadam aj moralka. AI mozog si tak bude moct overovat, ci netresol hlupost, bude vediet ze nevie a zbavi sa halucinacii.
Zaujimave je z toho dovodu, ze tieto vrstvy mozgu (aspon podla knizky Rychlokurz geniality :D) umoznuju vedomie. Osobne si myslim, ze toto by bol ten zlomovy moment.
Ja som čítal taký článok od tvorcu Wolfram vyhľadávača, ze tak ako je teraz vrstva, ktorá mapuje slová na vektory, tak by mohla v modeli vzniknúť vrstva faktov. Tá sa nebude už potom pretrénovavať, ale bude popisovať “vedecky správne” fakty a rovnaká otázka na rovnaký fakt dá vždy rovnaký výsledok, možno trošku inak textovo podaný. Model si tak už nebudeš môcť rôznymi prompt hackami priohnúť.
Ťažko povedať, pre Google model pri trénovaní boli Reddit dáta pravdepodobne boostnute. Pri dobrej báze znalostí, by tam ale bol asi nejaká forma neurónoveho spojenia, ktorá by vedela, že lepidlo a jedlo nejdú dokopy. Možno by to vedela označiť ako sarkazmus, ale chceme od vyhľadávača sarkazmus?
Ty nepotrebuješ AI. Vieš ten fakt garantovať aj pre povedzme 90% populácie? Bežný užívateľ chce položiť otázku a dostať odpoveď, je to jasne vidieť z trendov ako google stavia svoju prvú vyhľadávaciu stránku, že ľudia urobia odklik, až keď musia. Preto tam máš informácie z rôznych zdrojov všade okolo už na jednoduché dotazy.
Ja som bol napríklad prekvapený, keď som si všimol, že bežný ľudia v mojom okolí už nepoužívajú na telefóne prehliadače, ale google ikonku, za ktorou je schovaný search (tí čo majú Android, neviem ako to je pri iOS ľuďoch). Tam kliknu, napíšu dotaz, nájdu odpoveď, zavrú to. Žiadne taby, kde si niečo rozpracujú, oni dajú dotaz, pozrú odpoveď => problém solved. Dokonca tam vedia napísať aj url stránky, to prejde cez google search serveri a až tam sa prekliknú na konkrétnu stránku.
No ved to robim aj ja, ale to nieje vyhladavanie v zmysle ako sme sa bavili hore. Ale mozno sme sa len nepochopili.
Cize na otazku, ci chceme od vyhladavaca aby rozumel sarkazmu - nie nechceme. Od AI, ktory ma odpovedat na otazky - jednoznacne ano.
