Moja opinia o AI_Devs, czyli bardzo intensywne szkolenie z programowania z AI. Czy było warto?

Przez ostatnie kilka tygodni można było zauważyć całkowity zastój na blogu. Było to spowodowane bardzo intensywnym szkoleniem o tematyce automatyzacji, sztucznej inteligencji (AI) w połączeniu z programowaniem. Mowa o szkoleniu AI_Devs. Czas na podsumowanie tych szalonych pięciu tygodni.

Po co właściwie zapisałem się na to szkolenie?

Ważne pytanie, a jednak odpowiedź na nie jest taka oczywista. Odpowiadając, to nie chodziło tylko o samo AI, które dzisiaj jest mocno rozdmuchane. Chciałem poznać dogłębniej ten temat, zobaczyć jak to robią inni i dlaczego robią tak a nie inaczej. Wiedzę na temat AI, a właściwie obsługi API z OpenAI miałem. Można powiedzieć, że to wiedza głównie z dokumentacji, tutoriali oraz filmów na Youtubie. Jakkolwiek czułem, że brakuje mi kilku elementów układanki.

Następnie jakiś czas temu w mojej głowie pojawił się pewien projekt wykorzystujący AI. Nie wiedziałem jednak, jak się do tego zabrać. Co prawda w internecie można było znaleźć informacje na temat podobnych realizacji, ale brakowało mi specyficznej wiedzy.

No i tutaj pojawia się szkolenie AI_Devs. Muszę przyznać, że długo się zastanawiałem, czy zapisać się na to szkolenie. Nie było to nawet kwestią pieniędzy. Ostatecznie zdecydowałem się „zaryzykować”. Do podjęcia decyzji skłoniło mnie zaangażowanie Jakuba „unknow” Mrugalskiego oraz Mateusza Chroboka. Spośród 3 osób odpowiedzialnych za to szkolenie. Wtedy kompletnie nie znałem Adama Gospodarczyka.

Co było podczas szkolenia AI_Devs?

Po pierwsze było bardzo, ale na prawdę bardzo intensywnie.

• Pięć tygodni szkolenia online.
• Od poniedziałku do piątku pojawiała się nowa lekcja w skład której wchodziła prawdziwa ściana tekstu z konkretami. Początkowo lekcje były publikowane o 6 rano jednak dużo kursantów chciała je mieć już o 5 rano.
• Część lekcji było uzupełniane filmami od Mateusza Chroboka.
• Każda lekcja kończyła się zadaniami praktycznymi z programowania, zadania z promptem oraz quiz.

Przez cały okres trwania szkolenia nie byłem w stanie utrzymać takiego tempa. Zostawały mi głównie wieczory oraz weekendy.

Fajnie było poczytać o konkretnych rozwiązaniach jakie Adam zastosował w swoich projektach komercyjnych. Nie muszę chyba wyjaśniać różnicy między projektami hobbystycznymi a komercyjnymi.

Program został ułożony w taki sposób, że:

• na początku zostajemy wprowadzony w świat AI i LLM. Co to jest, jak działają, jakie mają ograniczenia oraz kiedy nie warto ich stosować.
• Następnie zostajemy wprowadzeni w przykłady jak budować prompty, jak zmuszać modele by zwróciły taką informację jaką chcemy.

Z każdą kolejną lekcją poziom złożoności wiedzy rósł jak i złożoność zadań.

Zadania

Jak już wiecie, twórcy szkolenia podzielili zadania na kilka części. Aby dostać certyfikat trzeba było osiągnąć 80% z każdego rodzaju.

• Quizy sprawdzały czy zapoznałem się z tekstem lekcji i czy zrozumiałem zagadnienia pojawiające się w tekście.
• Zadania z promptem uczyły nas tworzenia odpowiednich „zapytań” do AI aby uzyskać odpowiedź taką jaką chcę. W praktyce wyglądało to tak, że tworzyłem zapytania jako system albo jako user (użytkownik).
• Programowanie. W moim przypadku programowałem w Node.js. Połączenie z API OpenAI. Sprawdzanie różnych modeli, funkcji API. Super zabawa. Na każde z nich potrzebowałem od 30 minut do, w najgorszych momentach, trzech godzin. Nauczyłem się tutaj jak łączyć ze sobą kilka API, postawiłem bazę wektorową w Dockerze. Okazało się, że nie zawsze trzeba korzystać z AI.

Ciekawym zadaniem było te w którym trzeba było zrobić czat pomiędzy moim API a API AI_Devs gdzie jedno pytanie zadaje pytania a drugie odpowiada i przechowuje historię rozmów.

Nadmienię w tym miejscu, że wszystkie zadania programistyczne można było bez problemu wykonać no-code na platformie make.com. Nie byłem świadomy jak mocno to poszło do przodu. Przypomina to zabawę w Scratchu. Układa się puzzle i wszystko zaczyna ze sobą współgrać. Będę chciał kilka zadań rozwiązać tym sposobem.

Społeczność

Tutaj należy zaznaczyć pełne zaangażowanie pozostałych uczestników. Wszyscy sobie wzajemnie pomagali. Nie tylko przy rozwiązywania zadań, ale podczas problemów z lokalnym środowiskiem czy skryptami. Super sprawa.

Ile dodatkowo więcej wydałem na OpenAI API i hosting node.js?

Na API w OpenAI wydałem niecałe pół dolara, a zasiliłem konto kwotą $20. Pewnie dałoby się jeszcze mniej wydać, ale:

• w jednym zadaniu kilka razy stworzyłem embedingi dla baz wektorowych,
• użyłem gpt-4 gdzie można było użyć gpt-3.5-turbo.

W tej kwocie są już testy mojego projektu.

Dodatkowy koszt, to było hosting z node.js w wysokości 50 zł. Ten hosting i tak miałem kupować wcześniej.

80% i lekkie spowolnienie

Jak wspomniałem wcześniej AI_Devs, to bardzo intensywne szkolenie. Można by powiedzieć, że czasami aż za bardzo. Byłem bardzo zdeterminowany by osiągnąć 80% w pierwszym terminie. Udało się. Od tego momentu trochę zwolniłem. W momencie publikowania recenzji zostały mi do dokończenia 3 lekcje + zadania.

Wady AI_Devs

Nie ma szkoleń idealnych. Lista rzeczy, które można by poprawić lub usprawnić:

• Niektóre lekcje rozbiłbym na jeszcze mniejsze lekcje. Czasami tych nowych informacji było tak dużo, że potrzebowałem przeczytać niektóre z nich kilka razy. Piszę to z perspektywy osoby która miała małe pojęcie o LLM.
• Z pierwszym punktem łączy się rozszerzenie czasu trwania kursu.
• Temat baz wektorowych mógłby mieć więcej mniejszych lekcji lub więcej konrektnych by je lepiej zrozumieć.
• Można by usprawnić sprawdzanie niektórych zadań i wszystkie przypadki. Było kilka zadań w których należało napisać kod w taki sposób aby w każdym scenariuszu działo poprawnie. Myślę, że dobrym pomysłem byłoby dodać sprawdzanie poprawnej odpowiedzi dla wszystkich wariantów. W kilku zadaniach moje rozwiązania nie były idealne.
• Do pełni szczęścia zabrakło choćby jednej lekcji w której byłby poruszony temat generować grafik.

Podsumowanie – czy warto było zapisać się na szkolenie AI_Devs?

Tak, moje oczekiwania zostały w pełni spełnione. Moja wiedza została uporządkowana, co pozwala mi teraz na stworzenie kilku mniejszych projektów z wykorzystaniem AI, które usprawnią niektóre z moich obowiązków, np. tworzenie recenzji sprzętu. Mój główny projekt, który narodził się przed szkoleniem, zostanie wreszcie zrealizowany.

Podsumowując, zdobyta wiedza podczas tego szkolenia już przyniosła efekty, ponieważ:

• w firmie, z którą współpracuję, udało mi się wykryć podatność typu „prompt injection”;
• odblokowałem moje projekty;
• w głowie mam kolejne pomysły by usprawnić kilka procesów – głównie na potrzeby tego bloga.