Programowanie
w parze z AI

Zaledwie 28 minut spędziłem na stronie chat.openai.com w ciągu ostatnich 30 dni. Jeszcze kilka miesięcy temu licznik wskazywał około 20 godzin. Ta zmiana nie ma nic wspólnego z rzekomym spadkiem skuteczności ChatGPT, lecz z koncepcjami, które omówiłem w AI Devs #1.

Ostatnie miesiące były przepełnione nowościami związanymi z rozwojem AI. Wraz z nim zwiększało się także moje doświadczenie oraz możliwości narzędzi, które tworzę. W pewnym momencie jasne stało się dla mnie, że potencjał GPT-4 realnie rozpoczyna się dopiero w chwili podłączenia go do Internetu.

‍OpenAI API pozwala swobodnie projektować interakcję z modelem poprzez kod. Natomiast obecne możliwości GPT-4 są wystarczające do analizy, transformacji i generowania treści w różnych formatach, w tym także obiektów JSON na potrzeby zapytań HTTP. A to przenosi grę na zupełnie nowy poziom.

To wszystko doprowadziło mnie do miejsca w którym mam do dyspozycji GPT-4 wyposażone w długoterminową pamięć, dostęp do Internetu, systemu plików, usług, urządzeń a nawet innych modeli. Za całość odpowiada dość prosta aplikacja udostępniająca API, które mogę podłączyć do aplikacji na komputerze, telefonie (poprzez Slack i Shortcuts) czy w zewnętrznych usługach do automatyzacji. Mając do dyspozycji takie narzędzia, nie mam już powodu korzystać z ChatGPT, aczkolwiek wyjątek stanowi perplexity.ai, które jest genialne w posługiwaniu się Internetem.

Przekładając to na praktykę, mówimy o systemie zdolnym do interakcji z dowolnymi aplikacjami udostępniającymi API, poprzez naturalny język. Animacja poniżej prezentuje to na przykładzie czatu rozpoznającego zapytanie jako akcję związaną z aktualizacją zadań i wykonuje funkcję, która faktycznie łączy się z Notion. (ważne: animacja jest przyspieszona, realizacja takiego zadania trwa około 15-30 sekund). Na tej samej zasadzie możemy integrować się z kalendarzem, pocztą, aplikacją do notatek czy systemami CMS, CRM lub dowolnym API.

Poza podłączeniem do Internetu i usług własna integracja z OpenAI umożliwia także pracę z dokumentami i bazami wiedzy, które mogą zostać wykorzystane w sposób przypominający pamięć długoterminową.

Zapisane w niej informacje zostają przywoływane w zależności od tematu aktualnej rozmowy, a wyszukiwanie odbywa się poprzez bazy wektorowe oraz dodatkowe mechanizmy dobierające najbardziej użyteczne treści, na podstawie których generowana jest odpowiedź. W efekcie możemy nie tylko zapytać o dowolną rzecz (co przypomina zaawansowaną wyszukiwarkę) ale także prowadzić rozmowę, na której treść wpływają wcześniej zapisane wspomnienia, co zwiększa personalny ton całej konwersacji.

GPT-4 podłączony do naszych danych jest w stanie także realizować wybrane zadania bez naszego udziału. Przykładem może być regularne odwiedzanie wybranych stron w poszukiwaniu aktualizacji, które następnie mogą zostać przetworzone, zapamiętane i zwrócone w formie podsumowania lub nagrania audio.  Poniżej krótkie nagranie na podstawie artykułu Why Write oraz wiedzy na mój temat.

– 🎧 Odsłuchaj nagranie EN
– 🎧 Odsłuchaj nagranie PL (jakość jest nieco niższa niż dla języka angielskiego)

Warto dodać, że takie podsumowanie jest zapisywane jako konwersacja i może zostać rozwinięte lub kontynuowane, umożliwiając pogłębianie wybranych tematów.

Tworzenie powyższych integracji dla osoby potrafiącej programować (w szczególności w roli full-stack'a) nie stanowi większego wyzwania. Wystarczy rozszerzyć swoją wiedzę i umiejętności o tematy związane z dużymi modelami językowymi, projektowaniem promptów (instrukcji dla modelu) oraz pracą z dużymi zestawami danych.

Dodatkową korzyścią wynikającą z budowania systemów zdolnych do realizowania wymienionych wyżej zadań, jest zastosowanie ich w kontekście zawodowym. Projektowanie systemów typu RAG czy rozszerzanie funkcjonalności istniejących produktów o możliwości dużych modeli językowych, jest obecnie pożądaną kompetencją na rynku pracy.

Wszystkie wymienione wyżej mechaniki oraz związane z nimi narzędzia i techniki pracy są częścią tematyki AI_Devs #2, dlatego jeśli interesuje Cię praktyczne zastosowanie LLM w swojej codzienności, zdecydowanie polecam Ci dołączenie do naszego kursu.

Myślę, że na obecnym poziomie, na którym znajdują się technologie generatorów tekstu/kodu (GPT, Copilot itp.), zupełnie nam to nie grozi, ale co będzie za kilka lat? Tego nie wiem.

Jednak to, z czym mamy do czynienia już teraz, jest rozwiązaniem na tyle dojrzałym, że warto spróbować wdrożyć je do swojego codziennego życia. Można oczywiście zaklinać rzeczywistość i starać się zatrzymać postępujący rozwój technologii mówiąc, że AI jest szkodliwe, nie przyjmie się i jest dla nas zbyteczne.

Historia pokazuje jednak, że zatrzymanie rozwoju technologii, którą już zachłysnęli się ludzie, nie jest wcale takie proste… a niekiedy, nie jest nawet możliwe.

Sztuczna inteligencja za sprawą głównie OpenAI weszła pod strzechy. Znajomość sieci neuronowych, deep learningu i skomplikowanych algorytmów łączących matematykę i fizykę, to NIE są już umiejętności niezbędne do tego, aby wejść w świat AI. Już dziś, próg wejścia został drastycznie obniżony. Machina rozwoju nowych technologii ruszyła, a od Ciebie zależy, czy będziesz częścią tego rozwoju.

Odpowiadając na tytułowe pytanie - "czy AI nas zastąpi?" - powiedziałbym NIE, to nie AI może nas zastąpić, a ludzie, którzy będą umieć z tego AI korzystać.

Kilka lat temu, bardziej zaawansowani technicznie użytkownicy komputerów, dysponujący przy tym mocnymi GPU, mogli pobawić się technologią GPT-2. Trzeba przyznać, że generowane przez tę technologię odpowiedzi były ‘ciekawe’, ale nie można powiedzieć, że użyteczne, czy poprawne.

Zaledwie kilkanaście miesięcy później, światło dzienne ujrzał GPT-3, który generował teksty na takim poziomie, że niezwykle trudno było je odróżnić od tych, pisanych przez człowieka (co potwierdzi Ci każdy uczeń, który oddał jako zadanie domowe pracę napisaną przez GPT-3).

Od powstania GPT-3 minęło zaledwie kilka miesięcy, a świat oszalał na punkcie ChatGPT. Już teraz technologia ta jest na poziomie ułatwiającym życie milionom ludzi na całym świecie. Trzeba oczywiście umieć z niej korzystać.

Mówię o tym dlatego, że do szybko zmieniającej się technologii najłatwiej 'wskoczyć' na początku. Gdy już technologia porządnie się rozwinie, a bazowa ilość wiedzy niezbędnej do rozpoczęcia z nią pracy drastycznie wzrośnie, wtedy może okazać się, że próg wejścia będzie za wysoki. Z tego powodu staramy się działać możliwie szybko.

Tak, to prawda, że współczesne transformery tekstu generują niekiedy odpowiedzi, które brzmią jak prawdziwe, ale prawdziwymi nie są.

Dla wielu programistów to cecha, która wyklucza użycie takiego rozwiązania w produkcyjnym kodzie. Bo jak mielibyśmy wykorzystywać coś, co raz na jakiś czas (nikt nie wie, kiedy) się myli, lub zwraca zupełnie zmyślone odpowiedzi?

Okazuje się, że istnieją metody pracy zarówno z GPT-3, jak i ChatGPT, które gwarantują Ci jako programiście otrzymanie przewidywalnej i do tego zawsze prawdziwej odpowiedzi.

Istnieją nawet sposoby na odcięcie się od całego zasobu wiedzy (lub niewiedzy - jak mówią niektórzy), do jakiej ma dostęp wybrany model AI.

Między innymi tego chcemy Cię nauczyć.

Ja wiem, że współczesne modele sztucznej inteligencji są dość ułomne, ale i tak w wielu dziedzinach nawet na poziomie, na którym obecnie się znajdują, są niedoścignione dla klasycznych algorytmów.

Spróbuj w klasyczny sposób napisać tzw. klasyfikator sentymentu treści, czyli mechanizm, który na podstawie zadanego inputu ocenia, czy np. komentarz na temat produktu jest pozytywny, czy negatywny. Wydaje się to prostym zadaniem? To wyobraź sobie, że otrzymujesz taki oto komentarz:

“Jestem przerażony tym jak działa ten soft! Na samą myśl o tym, jak wyglądała moja praca, zanim go kupiłem, aż przepełnia mnie obrzydzenie. Jak ja mogłem tak żyć?! Ja tego softu nie polecam. Ja go ubóstwiam i jestem zniesmaczony na samą myśl, że ktoś mógłby używać produktów konkurencji!”

Tak, ja wiem… kilkadziesiąt IF-ów, baza słów kluczowych, jakieś proste filtry bayesowskie i do tego wykrywanie literówek (zauważyłeś je w tekście?). Stworzenie takiego systemu to męczarnia, a i tak liczba false-positivów będzie taka, że jego produkcyjne użycie będzie praktycznie niemożliwe.

A co jeśli powiedziałbym Ci, że ChatGPT rozpoznałby bezbłędnie sentyment tego komentarza, ignorując w nim wszelkie literówki, błędy gramatyczne i nietypowy zapis słów, a wszystko to dałoby się zautomatyzować wysyłając do API dosłownie jedno zdanie prompta?

Przykład z wykrywaniem sentymentu nie przemawia do Ciebie za bardzo?

Pomyśl o generowaniu streszczeń dowolnych tekstów, o automatycznym odpisywaniu na maile klientów Twojego sklepu, o przeszukiwaniu ogromnych baz danych i zwracaniu odpowiedzi w zrozumiałej dla człowieka formie.

Przeszukiwanie baz danych? Ale jak to?! Przecież te technologie są odcięte od świata! 🤔

Chcemy Cię nauczyć, jak zapewnić faktycznie ‘niemal offlinowym’ technologiom dostęp nie tylko do świata zewnętrznego, ale i do Twoich wewnętrznych zasobów wiedzy, a wszystko to uzyskamy w sposób możliwie bezpieczny.