Bartek Śliwa: Cześć, Bartek Śliwa, podcast Euvic Talks, w którym spotykamy się na styku technologii biznesu. A dzisiaj poruszymy tematy z kategorii sexy. Z człowiekiem, który zajmował się nimi jeszcze zanim były sexy. Naszym gościem jest Bartek Gładys. Cześć.

Bartłomiej Gładys: Cześć.

Bartek Śliwa: Już pewnie po samym wstępie wszyscy się domyślacie, że chodzi o AI, Machine Learning. Bartek, teraz jesteś świeżo po twojej drugiej prelekcji na Data Summit. Zastanawia mnie jakie były twoje początki, kiedy zajarałeś się sztuczną inteligencją? co to spowodowało i kiedy to było?

Bartłomiej Gładys: Zanim w ogóle wskoczyłem w tą sztuczną inteligencję, to myślę, że przyszedłem w taką długą drogę prób i błędów, szukałem sobie tutaj miejsca. Na początku zajmowałem się jakimiś rzeczami typowo full-stack’owymi,czyli te back-endy, front-endy. Potem troszkę siedziałem w aplikacjach mobilnych, trochę w inżynierce DevOps, bardzo dużo ścieżek przeszedłem. Natomiast zawsze gdzieś tam mnie interesowała taka może imitacja inteligencji. Nawet jak można gdzieś było sobie napisać grę, w której było jakieś losowanie, było coś tego typu. Nawet jeżeli wiedzieliśmy, że…wiedzieliśmy jak to działa dokładnie, ale z perspektywy użytkownika była taka imitacja, że rzeczywiście to w pewien sposób myśli, to zawsze mnie to bardzo fascynowało. I gdzieś na studiach, jak już pracowałem w Euvicu, postanowiłem,że to jest ta droga, którą chcę iść, że to jest na pewno coś, co mi się szybko nie znudzi tak jak reszta technologii. I znalazłem taką okazję, żeby pojechać na Erasmusa i zawsze chciałem na niego jechać, bo gdzieś usłyszałem, że jest bardzo fajnie tam, ale też zauważyłem, że można sobie wybierać różne kursy. Więc wybrałem głównie takie kursy, które właśnie były związane z uczeniem maszynowym, pojechałem i wydaje mi się, że od tamtej pory wszystko się zaczęło.Chwilę po tym pojawiły się jakieś projekty komercyjne, w które można było wskoczyć i od tamtego czasu właśnie od tamtego czasu działam głównie z uczeniem maszynowym, czyli gdzieś będzie jakieś 4-5 lat może.

Bartek Śliwa: 4-5 lat. To może rozszyfrujmy czym jest uczenie maszynowe.

Bartłomiej Gładys: Wydaje mi się, że uczanie maszynowe, głównie może sztuczną inteligencję teraz powiemy,stosujemy w miejscach, gdzie nie wiemy jak rozwiązać ten problem takim normalnym kodem, tak? Czyli na przykład jeżeli mamy obraz kota, obraz psa i chcemy je rozpoznać, no to wyobraź sobie ile linii kodu musiałbyś napisać, żeby rozpoznać każdą cechę, która rozróżnia psa od kota, tak? Jest to praktycznie niemożliwe. I wydaje mi się, że właśnie takie aspekty, są to główne aspekty, które powodują, że wybieramy uczenie maszynowe i sztuczną inteligencję.

Bartek Śliwa: Okej, to implikuje moje pytanie, jaka jest różnica między pisaniem aplikacji wykorzystujących sztuczną inteligencję, a standardowego oprogramowania, bo słuchając Ciebie można by zaklasyfikować wszystkie nasze problemy do tej domeny trudnej i wszędzie zacząć stosować AI, czy to jest dobra droga?

Bartłomiej Gładys: Raczej nie, bo w tych projektach związanych z uczyniem maszynowym ta złożoność jest dużo większa. Z tego względu, że często musimy mieć pewien model, który nie do końca będzie zawsze działał w 100%. I właśnie jak już wiemy, że on nie będzie działał w 100%, to musimy sobie obliczyć co się stanie i co nas spotka w momencie, kiedy on się pomyli. Jeżeli na przykład chciałbyś wprowadzić AI do transakcji bankowych, żeby AI pisał kod,który robi transakcje bankowe. No to wyobraź sobie, że ta skuteczność jest, nie wiem, nawet 99,99%, tak? Jeżeli tych transakcji masz miliony, no to co chwilę pojawią się jakieś transakcje, które po prostu nie przejdą, bo ci coś się tam stanie złego. Ok. Więc tam, gdzie razem z uczeniem maszynowym, przychodzi dużo większa złożoność tego problemu. Trzeba rozwijać ten biznes w różne strony i sprawdzać, co może później tak.

Bartek Śliwa: Dobra, to pociągnijmy ten wątek od strony biznesowej. Jak hipotetyczny właściciel firmy, biznesu ma określić, czy ten AI jest dla niego, czy nie?

Bartłomiej Gładys: Myślę, że przyda mu się zawsze ktoś, kto przeprowadzi z nim pewien wywiad, pewnie ktoś, kto zna się na tej technologii. i możemy przejść sobie przez szereg rzeczy. Zaczynając od takich łatwych, czyli np. czy on chce zautomatyzować coś w swoim biznesie, czy chce np. prowadzić całkowicie nową branżę biznesu, czy chce zrobić coś jeszcze innego, chce po prostu analizować swoje dane. To jest jedna rzecz. Potem możemy zwrócić uwagę, co on tak naprawdę posiada już u siebie. No bo oczywiście można teraz użyć tego czata GPT, nie trzeba mieć żadnych danych u siebie, wystarczy jakiś pomysł. Natomiast jeżeli są te dane, no to warto sprawdzić, czy nie ma tam czegoś cennego. Jeżeli chodzi o dane to mogą być to takie bazy danych na przykład, mogą być to pliki bez żadnej struktury, ponieważ teraz jesteśmy w stanie sobie wydzielić pewną strukturę z takich plików. Ale też są takie rzeczy powiedzmy nie do końca trywialne, które możemy zastosować. Na przykład wyobraźmy sobie, że ten nasz klient ma pewnych pracowników. I ci pracownicy wykonują codziennie jakieś zadania, może da się w jakiś łatwy sposób doimplementować do tego co oni robią, proces który pozwoli zbierać te dane i już będziemy mogli je w jakiś sposób wykorzystać. Tak samo jeżeli klient ma jakichś innych swoich klientów, to też może da się jego aktualną technologię, jego aktualne aplikacje, zmienić w taki sposób żeby te dane pozyskiwać. Albo na przykład jeżeli klient ma jakieś serwisy i z nimi się integruje. Zakładam, że te serwisy, z którymi się integruje, to są jakieś duże serwisy i oni pewnie te dane zbierają, ale dlaczego on też nie może tych danych zbierać? I jeżeli w tym wszystkim nawet wyjdzie nam, że nie, nie mam czego zbierać, na razie mi się to nie spina,bo są za duże koszta, za mała skuteczność itd., to też wyobraźmy sobie sytuację, w której ten nasz klient nie wchodzi teraz do tego. Ale na przykład jego konkurencja już zaczęła w tym działać. I teraz mija parę lat, interfejsy tych powiedzmy chatów się w miarę nie zmieniają, ale za to spada ich cena, zwiększa się ich skuteczność. No i się okazuje, że konkurencja naszego klienta już to wszystko sobie przetestowała, muszą tylko podmieniać na przykład modele jak wchodzą, a to jest bardzo proste. I są dużo przed nim, nawet jeżeli na początku tracili z tego powodu, że implementowali,to im się to nie opłacało, nie? Ale może się okazać, że z czasem i tak się okaże, że to był dobry wybór. No i tu teraz jest kwestia odnośnie klienta, czy on chce powiedzmy podjąć ryzyko nie wejścia w to, jeżeli się okaże, że na przykład konkurencja w to weszła i na tym dużo zyskała.

Bartek Śliwa: Ok. Czy jesteś w stanie rzucić dwa, trzy takie proste przykłady, które zobrazują nam, może jakiś case z życia, którym się możesz podzielić, w którym zgłosił się do Ciebie ktoś i doszliście wspólnie do wniosku, że rozwiązaniem Twoich problemów, drogi kolego kliencie, jest właśnie kawałek oprogramowania ze sztuczną inteligencją?

Bartłomiej Gładys: Myślę, że taki case jeszcze zanim wszedł GPT, zanim to wszystko powstało , też ten case, którym tak naprawdę rozpoczynał swoją taką przygodę już komercyjną ze sztuczną inteligencją, możemy dość dużo o tym mówić, bo już robimy jakieś prezentacje na ten temat publiczne, więc tutaj możemy nawet podzielić się nazwą klienta. Robiliśmy taki projekt dla dużej firmy, dla Arcelora, ArcelorMittal, w którym automatyzowaliśmy ich proces identyfikacji wagonów.Wyglądało to tak, że wagony przejeżdżały przez tory kolejowe i na dwóch punktach mieliśmy kamery, które rejestrowały ten obraz. Następnie właśnie sztuczną inteligencją, sieciami neuronowymi, zczytywaliśmy ten obraz, potem mieliśmy kolejne sieci neuronowe, które już te dane w pewien sposób, powiedzmy, czyściły. No i następnie już to mogło sobie gdzieś lecieć do zewnętrznego systemu. Nie były potrzebne osoby, które non stop stoją przy tych torach i sprawdzają, czy te wagony, które miały przejechać, rzeczywiście przejechały. Rzeczywiście w tej samej kolejności, czy rzeczywiście z tymi samymi numerami.

Bartek Śliwa: Czyli odwołując się do Twojego przykładu z wagonami, mając pewien zbiór danych, które obserwujemy na podstawie obrazu z kamery, te sieci neuronowe wiedzą, że to jest ten wagon o takim numerze i są w stanie nam powiedzieć czy właśnie tego się spodziewaliśmy.

Bartłomiej Gładys: Tutaj właśnie jest też ten proces uczenia się, ponieważ właśnie sieć neuronową uczymy w ten sposób, że dajemy obrazy, na przykład taką sieć, którą używaliśmy tam, dajemy obrazy, potem musimy nadać tym obrazom pewne, my na to mówimy labele, czyli na przykład oznaczamy, że tutaj jest jakiś numer wagonu, tak? I potem następuje proces uczenia, w którym my karamy sieć, można powiedzieć, że karamy, zmieniamy jej po prostu wagi, za każdym razem, gdy ona się pomyli. Natomiast, gdy ona już w końcu odgadnie tam to miejsce tego położenia tego numeru, dokładny numer, no to wtedy już nic nie robimy. Wtedy zakładamy, że sieć już się dobrze nauczyła. I że może też generalizować, to jest też ważne, że może generalizować do innych danych, których nie widziała. Właśnie to też jest bardzo ciężké w uczeniu maszynowym, jak dobrać zbiór treningowy, tak żeby on działał dla bardzo różnych przypadków.Czyli jak pojawią na przykład się inne wagony, jak będzie zła pogoda, jak stanie się cokolwiek z kamerą, na przykład ona będzie przechylona w inną stronę itd. Więc jest pełno takich przypadków, które powodują, że musimy rozszerzać i rozszerzać te zbiory treningowe.

Bartek Śliwa: Mhm. To brzmi jak taki już duży, przemyślany przypadek biznesowy. Zastanawiam się, jak możemy zweryfikować, czy ta nasza hipoteza odnośnie tego, że budujemy kawałek oprogramowania ze sztuczną inteligencją,będzie odpowiednim wyborem dla nowych projektów. Jak podejść do takiego proof of concepts, kiedy mamy jakiś problem biznesowy i zastanawiam się, czy właśnie podejść do tego z AI-em czy bez.

Bartłomiej Gładys: Po pierwsze musimy zawsze dobrze ustalić cel projektu, bo często klient przychodzi i mówi, że chce sztuczną inteligencję, chce uczenie maszynowego, to teraz jest top. Natomiast trzeba rzeczywiście znaleźć jakiś cel biznesowy. Następnie my w głowie jako, powiedzmy, specjaliści od uczenia maszynowego musimy to zamienić na coś,co się nazywa funkcją celu, czyli jeszcze bardziej ten cel musimy określić. Następnie pewne założenia musimy zabrać i tutaj też założenia nie odnośnie tego co otrzymamy od klienta, takie dane wyjściowe, ale też przykładowo na co się dokładnie umówimy, na jaką skuteczność się umówimy, na jakie koszty się umówimy, na jaką szybkość działania się umówimy. To jest bardzo dużo zmiennych, które wchodzą w grę i trzeba je gdzieś sobie tutaj rozpisać od razu z klientem i zaznaczyć tak transparentnie, że to będzie wyglądało tak, to będzie wyglądało tak, tutaj są jakieś ryzyka. I właśnie też te ryzyka są bardzo istotne, bo żeby się ich pozbyć, w jakiś sposób zmitygować, to najczęściej robimy coś takiego, co jest właśnie proof of concept, czyli staramy się zbudować na szybko pewne narzędzie bez żadnego interfejsu, bez żadnych fajerwerków, które po prostu zwaliduje, czy to może działać. I wtedy podchodzimy dalej. Są też takie fajne narzędzia,które potem to nawet, dzięki którym możemy potem to gdzieś wrzucić na jakiś interfejs. Jest na przykład takie narzędzie,teraz Streamlit często używane. Pozwala, że jak już mamy ten model, to praktycznie w jeden dzień, w dwa dni możemy go gdzieś wrzucić i pokazać klientowi jak działa. Więc to nie musi być tak, że my tylko jako programiści, jako specjaliści od tego uczenia maszynowego widzimy pewne metryki, jakieś wzory i tak dalej, ale też możemy to potem przekuć w jakiś interfejs, który bardzo szybko możemy pokazać klientowi.

Bartek Śliwa: Ok, czyli w dużym skrócie ścieżka biznesowa wygląda tak, że przychodzi ktoś chcący otrzymać takie rozwiązanie do Bartka Gładysa. Mówi Bartku, mam taki i taki problem, a ty na przykład mówisz, że to nie jest case dla AI’a, tylko trzeba to kawałkiem zwykłego programowania zrobić, a jeśli jednak jest to case dla AI’a, to tworzycie sobie tą funkcję celu, którą tak nazywałeś i następnie budujecie Proof of Concept.

Bartłomiej Gładys: Proof of Concept, tak. Tutaj też warto dodać, że właśnie w dobie tych modeli językowych często nawet nie trzeba trenować tych modeli. Wszyscy mówią o treningu modeli, że każda firma musi trenować swoje modele i tak dalej, ale często wystarczy zrobić coś takiego, co się nazywa indeksacją bazy danych. Są też narzędzia, powiedzmy,od razu, które możemy użyć w kontekście sztucznej inteligencji, które pozwolą nam zindeksować tę bazę tak, żeby przechowywać jej semantyczne znaczenia, tak?

Bartek Śliwa: Najlepiej jakbyś to od razu na język biznesowy przełożył, bo indeksacji bazy danych może nie każdy zrozumieć.

Bartłomiej Gładys: Powodujemy, że nasza baza danych zamienia się w coś na zasadzie wyszukiwarki.

Bartek Śliwa: Oleg.

Bartłomiej Gładys: I następnie jak już mamy ten model językowy, który można tak naprawdę, który na przykład siedzi sobie za jakimś API, za jakąś usługą typu ChatGPT, ten model może się po prostu przez nasz kod, który jest raczej bardzo mały, podłączać do tej naszej wyszukiwarki, którą sobie stworzyliśmy. I wtedy już widzimy taki potencjał biznesowy, że na przykład coś, co zajmowało 15 minut wyszukiwania, teraz nagle zajmuje kilka sekund. Jest to też taki dość częsty teraz case. Wiele klientów właśnie przychodzi z tym problemem, że chcą szybciej wyszukiwać dane wewnątrz firmy.

Bartek Śliwa: Ok. Czy są jakieś… najważniejsze lekcje, które wyciągnąłeś podczas pracy z systemami opartymi o AI Machine Learning albo czy takie lekcje odbiorcy twojej pracy wyciągną?

Bartłomiej Gładys: Myślę, że jedną z tych lekcji jest właśnie to, żeby za każdym razem uściślać, co będzie wynikiem tej naszej pracy związanej z uczeniem maszynowym, bo często na początku właśnie to są jakieś analizy, jakiś proof of concept, to raczej na początku nie będzie taki gotowy produkt. Bo najpierw chcemy tak naprawdę zmniejszyć to ryzyko,zobaczyć jak będzie, ewentualnie żeby klient wiedział też jakie to ryzyko będzie w tym pierwszym momencie. Właśnie ustalenie tych celów na podstawie na przykład stworzenia bazy testowej. Możemy stworzyć bazę testową, którą i my widzimy i klient widzi. I on iteracyjnie widzi jak nasz model się zachowuje na bazie testowej. Więc wtedy mamy jasny ogląd w którą stronę idziemy. I nie tylko my możemy budować tę bazę testową, ale też klient, ponieważ klient na swój biznes, więc on może pokazywać np. dla danego przypadku jak coś powinno wyglądać. Czyli np. jeżeli mamy jakiś system do tagowania dokumentów, to on np. poda dokumenty, konkretne dokumenty i przypisze jakie tagi powinny tutaj być. I następnie my testujemy na tym nasz model, który stworzyliśmy wcześniej, bądź właśnie cały mechanizm oparty na chat GPT, tej wyszukiwarce takiej bardziej inteligentnej, i sprawdzamy czy po prostu to działa dobrze dla tych przypadków testowych. Taką jeszcze inną sytuacją, trochę bardziej techniczną, ale jest to, że klient często przychodzi i mówi, mam super dane, mają super struktury, mam super forma i tak dalej, to na pewno da się coś zrobić fajnego. Tylko że dużo problemów polega na tym, że my chcemy na przykład sprawdzić przyczynę pewnego skutku. Wyobraźmy sobie,że mamy jakiś przypadek, gdzie na przykład chcemy dobierać najlepsze ceny dla pokoi hotelowych. I teraz tutaj jest taki problem, że jeżeli mamy taki standardowy machine learning, to on często opiera się, troszkę upraszczając na korelacji. A korelacja to nie jest to samo co taka przyczyna i skutek. Przykładowo był taki case kiedyś, chyba gdzieś w Stanach opisany, że była próba sprawdzenia skąd się biorą przestępstwa w różnych dzielnicach. Wyszło im, że tam gdzie było najwięcej przestępstw, tam też było najwięcej policjantów. Ok. Więc wzięli wniosek z tego, że pewnie te przestępstwa są przez tych policjantów. Oczywiście tak nie było. Oczywiście po prostu policjanci byli wysyłani tam gdzie były przestępstwa. Więc takie różne rzeczy też trzeba brać pod uwagę właśnie podczas naszej pracy z uczeniem maszynowym.Trzeba rozumieć te problemy. Kiedy chcemy sprawdzić jakieś relacje danych, a kiedy na przykład chcemy sprawdzić czy jest jakaś przyczyna i jakiś skutek. Bo to są dwie zupełnie inne rzeczy. I na tym też, powiedzmy, gdzieś się nacięliśmy w projektach w przeszłości. I teraz rozumiemy, że jednak trzeba głębiej wchodzić w ten temat, głębiej wchodzić w to, co klient chce osiągnąć.

Bartek Śliwa: Jasne. Czyli tu jest jednak ten aspekt ludzki nie zastąpiony.

Bartłomiej Gładys: Tak.

Bartek Śliwa: Bo dane danymi, a wnioski można jednak wyciągnąć błędne.

Bartłomiej Gładys: Jeszcze jeden case mi się przypomniał. Często też klient ma pewnych specjalistów w tej dziedzinie,tak? I może się okazać, że klient chce analizy danych i jeżeli my nie będziemy współpracowali z tymi specjalistami, to może się okazać, że na samym końcu z tej analizy danych, z tej ciężkiej pracy wyjdzie nam coś, co oni już wiedzieli dobrze. Więc tutaj też jest bardzo ważne to połączenie relacji między biznesem, a między właśnie programistami, żeby po prostu nie było takiej pracy, która idzie całkowicie na marne.

Bartek Śliwa: No tak, to technologia ma wspierać biznes, a nie na odwrót. Chciałem Cię zapytać jakieś buzzwordy i mity w AI-u, bo jasne, to się wszystko fajnie klika i niejednokrotnie kiedy z kimś ja rozmawiam, mając dużo mniejszą wiedzę na temat AI-a i ten ktoś twierdzi, że tą sztuczną inteligencję wykorzystuje, okazuje się, że niekoniecznie, że właśnie bazuje na jakichś buzzwordach, więc co jest prawdą w tym aspekcie, co jest mitem, może jakieś błędne przekonania?

Bartłomiej Gładys: W odnośnie tego ostatniego, co powiedziałaś, to rzeczywiście było wcześniej tak, że ktoś miał kilka kilka if’ów powiedzmy w swoim kodzie gdzieś tam. Ewentualnie robił tak jak mówiłem na początku, że była pewna imitacja tej inteligencji, bo była jakaś losowość w tym systemie tak, można było stworzyć nie wiem, grę, która na przykład porusza jakimś, jakimś bohaterem w losowy sposób i mówi się, że to jest sztuczna inteligencja. To kiedyś tak było, natomiast teraz te narzędzia są na tle dostępne, że jak już ktoś mówi, że używa tej sztucznej inteligencji, to chyba rzeczywiście używa. Więc to jest jedna rzecz, która się zmieniła. Ale z takich aktualnych buzzwordów, to wydaje mi się,że dużo osób mówi na przykład wiele o halucynacji. Natomiast te modele działają w ten sposób, że one tak naprawdę zawsze halucynują. I tylko czasami udaje mi się powiedzieć to, co jest zgodne z prawdą. Ponieważ to wszystko polega na tym, że one z pewnym prawdopodobieństwem cały czas przewidują kolejne i kolejne słowo w taki iteracyjny sposób. To jest jedna rzecz. Ale też właśnie odnośnie tej halucynacji są sposoby, żeby sobie z tym radzić. Dużo ludzi mówi, że to jest taki mega bloker, czyli że nie da się z tym nic zrobić itd. Natomiast są sposoby, żeby sobie z tym radzić. Przykładowo możemy wziąć pewien tekst. Jeżeli chcemy, żeby ten model nam coś o tym powiedział, to możemy zadać kilka razy to samo pytanie. Jeżeli te odpowiedzi znaczniej się od siebie różnią, to prawdopodobnie nastąpiła właśnie ta halucynacja, o której mówimy. I rzeczywiście model zmyśla te dane, ponieważ za każdym razem są inne. Jeżeli są takie same, no to jest duże prawdopodobieństwo, że on jednak skądś wziął tą informację, ponieważ inaczej rzeczywiście te dane za każdym razem byłyby inne, ta odpowiedź byłaby inna. Takim jeszcze buzzwordem, o którym wydaje mi się, że jest dużo, to ilość tokenów w tych modelach. Na pewno każdy słyszał od Google, że na przykład on teraz spiera milion tokenów, dwa miliony tokenów. I to jest prawda.

Bartek Śliwa: Czym są te tokeny, żebyśmy to wyjaśnili?

Bartłomiej Gładys: Właśnie dobrze może powiem. Token w tak w uproszczeniu możemy sobie przyjąć, że to jest kawałek słowa. Generalnie jak właśnie następuje ten proces trenowania modelów językowych, to przedtem w pewien sposób też trenuje się taki tokenizer, który z tekstu dzieli on sobie go właśnie na tokeny, tak żeby model wiedział na czym operuje. Potem taki token jest już reprezentowany w wymiarowej przestrzeni matematycznej, w wektorze i właśnie na tej podstawie model wie czym jest dane słowo, czym jest dany token, ale tak naprawdę możemy powiedzieć że słowo i jak to słowo ma się do innego słowa. Tak upraszczając.

Bartek Śliwa: OK.

Bartłomiej Gładys: I ten mit? A tak, w kontekście mitu właśnie to jest fajne, jeżeli np. używa się bezpośrednio powiedzmy Google’a i ma się te 2 miliony toketów, można tam wrzucić parę książek, można o coś zapytać, ale jeżeli np.jako programiści bądź jako biznes chcemy to wykorzystać, i użyć takiego modelu i zezwolić użytkowników na to, żeby za każdym razem wysyłał parę książek do tej naszej aplikacji, to się okaże, że bardzo szybko te koszty bardzo mocno wzrosną, ponieważ często płaci się za każdy tysiąc tokenów. Takie jest przeliczenie. Więc oczywiście też te modele tanieją, są coraz bardziej skuteczne, coraz szybsze. Natomiast w tym momencie dalej to jest powiem taki bloker i jak ktoś mówi, że jego model wspiera te 2 miliony tokenów, czyli tak w uproszczeniu może około miliona słów, czyli trochę książek można wrzucić, to jednak trzeba wziąć sobie poprawkę na to, że jeżeli użyjemy tego naszej aplikacji, to te koszty dużo wzrosną.

Bartek Śliwa: Ok. A chciałbym Cię jeszcze zapytać, tak filozoficznie, dokąd zmierzamy. Zakładam, że raczej mówimy o kolejnych miesiącach, niż latach, bo sami widzimy, jak to szybko pędzi się, rozwija. Jakie Twoim zdaniem będą te trendy w najbliższym czasie? Co będzie takimi chodliwymi tematami?

Bartłomiej Gładys: To jest bardzo ciężko stwierdzić, ponieważ to się zmienia praktycznie każdego dnia. Natomiast wydaje mi się, że ze względu na to, że te modele są coraz szybsze, są coraz skuteczniejsze, są coraz tańsze, to coraz bardziej będzie się opłacało tworzyć tzw. agentów, którzy pomagają nam w różnych rzeczach. I ci agenci potem mogą mieć dostęp do różnych narzędzi, tak? Czyli agent może mieć dostęp do naszej wiedzy firmowej, agent może mieć dostęp do kodu, nawet agent może pisać swój własny kod i potem go używać.

Bartek Śliwa: Przez agent można myśli kawałek kodu?

Bartłomiej Gładys: Można powiedzieć kawałek kodu, ale którym zarządza model językowy.

Bartek Śliwa: Ok.

Bartłomiej Gładys: Czyli na przykład mamy model językowy, który ma dostęp do różnych narzędzi, wybiera sobie czego użyć. Jednym z narzędzi może nawet być inny model językowy, więc tutaj Sky is the limit. Natomiast wydaje mi się, że to będzie coraz częściej używane. Do tej pory właśnie blockerem było to, że taki agent potrzebował często dużo czasu, ponieważ musiał zaciągnąć te wszystkie dane, te modele nie były na tyle szybkie i powiedzmy do takich bardziej skomplikowanych rzeczy, taki jeden proces mógł trwać minuty, może godziny nie, ale powiedzmy dość dużo minut, tak?A teraz widzimy na przykład, że raczej będzie celowało się w to, żeby ta responsywność była bardzo szybka. Może część osób widziała tę prezentację z GPTO, gdzie praktycznie w czasie rzeczywistym można rozmawiać z tym modelem językowym. Wydaje mi się, że właśnie to będzie taka druga rzecz poza tymi agentami, że coraz więcej będzie interakcji z modelami językowymi, nawet na zasadzie głosowej, nie tylko pisząc, z tego względu, że są one coraz bardziej responsywne. I tutaj można troszkę wróżić, że na przykład firmy, które działają na zasadzie call center, one mogą mieć coraz trudniej z tą pracą. Czyli taka osoba, która pracuje…

Bartek Śliwa: Czyli consierge zostanie zastąpiony.

Bartłomiej Gładys: Tak, wydaje mi się, że będą teraz próby zastąpienia tego z tego względu, że to działa coraz szybciej,coraz resposywniej i coraz dokładniej.

Bartek Śliwa: Czyli w najbliższej przyszłości, jak będę Cię chciał zabrać na romantyczną kolację do Sztokholmu, to poproszę o rezerwację biletów i restauracji asystenta w telefonie.

Bartłomiej Gładys: To wydaje mi się, że już może spróbować. I to już możliwe, że zadziała w pewien sposób. Ale z jeszcze innych rzeczy wydaje mi się, że do tej pory wszyscy słyszeli o tych wielkich modelach, które gdzieś tam są za pewnymi usługami. Nie wiemy do końca, jak one działają. Ale jest coraz większe parcie na to, żeby trenować małe modele, które są bardzo wyspecjalizowane, które też może będzie dało się używać bez dostępu do internetu. I wydaje mi się, że też to wszystko w tą stronę idzie, że na przykład ty na telefonie będziesz miał zaraz model, który w ogóle już bez dostępu do internetu, w każdej warunkach będzie w stanie ci coś doradzić.

Bartek Śliwa: Brzmi poważnie. Bartek, na zakończenie chciałem Ci zadać pytanie charakterystyczne dla naszego podcastu. Czy mógłbyś się podzielić jakąś inspiracją z naszymi słuchaczami i widzami? Coś, co ostatnio odcisnęło piętno na Tobie, na Twoim otoczeniu, na Twoim życiu. To może być jakieś przeżycie, książka, podróż, film.

Bartłomiej Gładys: Z takich namacalnych rzeczy nie.. Jedna rzecz ze sztucznej inteligencji może, którą bym się podzielił, która mnie naprawdę fascynuje, to jest to jak… Jakieś trudne koncepty, tak jak np. nasz język, mowa, można zamienić na coś, co ma reprezentację matematyczną. Jest taki koncept właśnie w sieciach neuronowych, który nazywa się embeddingami i na wektor właśnie, na taką abstrakcję matematyczną, możemy zamienić wszystko. Możemy zamienić obrazy, możemy zamienić język itd. A żeby pokazać jak to działa, możemy sobie wyobrazić sytuację, w której na przykład mamy wektor reprezentujący słowa. Mamy słowo król, mamy słowo mężczyzna, mamy słowo kobieta.Wszystkie te wektory są reprezentowane w postaci matematycznej. Jeżeli teraz zrobimy taką operację, od słowa król odejmiemy słowo mężczyzna i dodamy słowo kobieta, to się okaże, że na wyjściu powstanie wektor, który jest bardzo blisko słowa królowa. Więc to wszystko, co teraz się dzieje, możemy to tak sobie trochę ekstrapolować, że naprawdę w wielu warunkach to może działać, że ta sztuczna inteligencja naprawdę ma prawo bycia, ponieważ w ten matematyczny sposób możemy różne rzeczy rozumieć.

Bartek Śliwa: Czyli rewolucja trwa w najlepsze.

Bartłomiej Gładys: Rewolucja trwa w najlepsze.

Bartek Śliwa: Super. Dzięki bardzo za rozmowę. Wam dziękuję za wysłuchanie, za obejrzenie i widzimy się w kolejnym odcinku podcastu Euvic Talks. Dzięki.