#3 Czy inżynieria promptów to przyszłość, czy tylko kolejny chwilowy trend w AI

Cybernetyczny Żeglarz – Czy inżynieria promptów to przyszłość, czy tylko kolejny chwilowy trend w AI?

Witaj! 🚀 Ostatnio pewien programista powiedział mi, że inżynieria promptów to „rozwiązanie problemów wieku dziecięcego technologii”. Czy on ma rację? W dzisiejszym newsletterze przyjrzymy się, czy naprawdę warto inwestować w tę dziedzinę.

Dla osób, które po raz pierwszy stykają się z określeniem „prompt engineering” czy po polsku inaczej „inżynierią proptów”, chodzi o nową subdziedzinę inżynierii, zajmującą się promptami dla generative AI. Czyli to, co wpisuje się w chacie GPT, aby uzyskać odpowiedź, lub określa się, co ma się znaleźć na obrazku wygenerowanym przez Midjourney czy Dalle-2.

Modele LLM, jak GPT, są maszynami statystycznymi. Nie można powiedzieć, że „myślą” jak ludzie^[1]. Po przeprocesowaniu promptu w oparciu o wcześniejsze treningi, model „generuje” kolejne tokeny (zlepki znaków jak słowa) w oparciu o największe prawdopodobieństwo. Na przykład, dla zapytania „Michael Jordan zasłynął dzięki mistrzowskiej grze w ….”, znacznie większa szansa będzie, że model zwróci „koszykówce” niż „kopaniu buraków”.

Michael Jordan mistrz gry w pomidory

Modele LLM nie działają deterministycznie i lubią halucynować, powstała cała masa haków w promptach, jak w poniższym, którego zadaniem jest zmotywowanie modelu do ponownej analizy jego wcześniejszej wypowiedzi. Daje on teoretycznie lepszej jakości treść.

Now you're a researcher investigating what you've just said. List the flaws and faulty logic of your previous message in light of my last question. Let's work this out in a step by step way to be sure we have all the errors.

Sprawia on, że model ponownie analizuje swój wynik. Pomaga on uzyskać lepszej jakości rezultat zapytania. Innych optymalizacji jest sporo, nie chcę wchodzić głębiej w to, bo nie o tym miał być ten newsletter.

Nauka promptowania to strata czasu…

Niedawno rozmawiałem z znajomym programistą i zastanawiałem się, czy warto uczyć się prompt-engineeringu. Według niego nie warto, bo prompt-engineering rozwiązuje problemy wieku dziecięcego technologii. Obecne rozwiązania są imponujące, ale nadal dopiero jako ludzkość się ich uczymy i na pewno w przeciągu kilku lat doczekamy się wielu rewolucji, które wiele problemów wyeliminują.

Zrozumienie inżynierii promptów otwiera drzwi do efektywnej pracy z zaawansowanymi modelami językowymi, takimi jak GPT-4. Poprzez umiejętność tworzenia precyzyjnych promptów, użytkownicy mogą uzyskiwać bardziej celne i użyteczne odpowiedzi. W dzisiejszym świecie biznesu rośnie zapotrzebowanie na specjalistów zdolnych do optymalizacji wykorzystania tych modeli. Poza aspektami komercyjnymi, nauka inżynierii promptów pobudza kreatywność, umożliwiając odkrywanie nowych zastosowań technologii. Znajomość tej dziedziny pogłębia również zrozumienie działania modeli językowych i pozwala zyskać przewagę konkurencyjną na rynku pracy.

Chociaż nauka promptowania może wydawać się atrakcyjna, technologia ciągle się zmienia, a to, co co działa teraz, może szybko stać się przestarzałe. Wprowadzenie w jej tajniki może być trudne i skomplikowane dla osób nieobeznanych z zaawansowanymi koncepcjami działania modeli LLM. Co więcej, nie każdy projekt wymaga specjalistycznej wiedzy z tej dziedziny – często standardowe prompty są wystarczające. Czasem wystarczy też ponowne wykonanie zapytania. Skupienie się wyłącznie na tej specjalizacji może prowadzić do zaniedbywania innych ważnych aspektów pracy z AI, takich jak etyka czy bezpieczeństwo danych. Wreszcie, nawet z doskonałym zrozumieniem inżynierii promptów, technologia ma swoje ograniczenia, które nie zawsze mogą być przezwyciężone.

Dodatkowo, model LLM, jest jedynie tak dobry, jak dane, na których został wytrenowany. Zasada „Garbage In, Garbage Out” staje się tu niemal aksjomatem: jeżeli dane są pełne błędów, niewłaściwych informacji lub uprzedzeń, model również będzie je reprodukować. W efekcie możemy otrzymać nie tylko mylne, ale i szkodliwe wyniki. Nauka efektywnego promptowania staje się tu mechanizmem kontroli, który pozwala na precyzyjniejsze zapytania i, w efekcie, bardziej rzetelne odpowiedzi.

Czy warto zastanawiać się nad wartością uczenia się inżynierii promptów? Moim zdaniem tak. Mimo że technologia ewoluuje, rozumienie podstaw jest kluczowe do skutecznego korzystania z narzędzi opartych o AI.

🍞 Suchar na zagryzę

^[1]: Termin „myślenie” jest stosunkowo trudno zdefiniować, bo jest to mocno abstrakcyjne pojęcie. Aby go dobrze opisać, należałoby zdefiniować czym jest myśl, kto może myśleć, jaki jest cel myślenia itd. Czy maszyna jest zdolna do myślenia, czy tylko istoty żywe? Sporo pytań, mało odpowiedzi 😉

BEczKA – odmóżdżający kanał na YT.

https://www.youtube.com/@BEczKA1
Moja praca jako programista jest bardzo wymagająca intelektualnie i czasem czuje potrzebę obejrzenia mózgotrzepa na zrelaksowanie się. Kanał „beczka” jest moim ulubionym mózgotrzepem 😉 Nie spodziewaj się treści poprawnych – poziom jest tylko trochę wyższy od Kapitana Bomby, czy kuców z bronxu

Emoji dla inżynierów

https://joemonster.org/filmy/124197/Emotikony_dla_inzynierow_
Inżynierowie też mają emocje, nawet programiści 😉 Z przymrużeniem oka na najczęściej używane emoji przez techników.

Projektowanie graficzne dla inżynierów oprogramowania i architektów

https://betterprogramming.pub/graphic-design-for-software-engineers-and-architects-c616bb6c3366
Rysowanie diagramów dla programistów i architektów oprogramowania – jak to dobrze zrobić, aby było czytelnie i funkcjonalnie.

Polski pracownik uwielbia się zajeżdżać, robi bezpłatne nadgodziny i naiwnie liczy, że ma to jakiś głębszy sens

https://bezprawnik.pl/dzien-pracoholika-2023/
Przeciętny polak jest pracoholikiem. Uwielbia się zajeżdzać, licząc na łaske swojego Pana.

Koła zębate, przekładnie itp.

https://ciechanow.ski/gears/
Autor opisuje zasady działania kół zębatych, przekładni, itp. za pomocą animacji.

10 najlepszych powieści Sci-fi wg. użytkowników Reddita – inspiracje do czytania.

https://collider.com/best-sci-fi-books-on-reddit/
Lista 10 najciekawszych powieści science fiction ostatnich lat, zebrana za pośrednictwem ponad 3 popularnych subreditów. Z listy przeczytałem „Wool” – w Polsce przetłumaczono ją jako „Silos” – bardzo polecam tę serię. Apple niedawno wydało adaptację na podstawie tej powieści – utrzymuje klimat oryginału.

Jak sobie radzić z „trudnymi” inżynierami

https://vadimkravcenko.com/shorts/managing-bad-engineers/
Mówi się, że inżynierowie, a szczególnie programiści, są roszczeniowi, zmieniają pracę co chwilę, chcą zarabiać kokosy, a się opieprzają. I jest to nieprawidłowe podejście. „Trudności” biorą się z niezrozumienia ludzi, z którymi się pracuje. Artykuł przedstawia kilka profili charakterologicznych i podaje sposoby, jak sobie z nimi „radzić”.

Jira czy Twój manedżer. Kogo można bardziej nienawidzić? 😉

https://jarvispowered.com/you-dont-hate-jira-you-hate-your-manager/
Jira jest jednym z najpopularniejszych narzędzi do zarządzania zadaniami i projektami w IT. Masa ludzi ją kocha, ale są tacy którzy ją nienawidzą. Problemem może nie być samo narzędzie, ale twój scrum master/project owner czy menedżer. Jest rodzajem sztuki konfiguracja narzędzia i sposobu pracy z nią. Można skomplikować życie, ale także ułatwiać pracę/