Tento projekt začal pouze jako imaginární firma, kterou jsme měli ve skupinkách vymyslet a prezentovat v hodině angličtiny ve škole. Já jsem se ale rozhodl, že naše skupinka nebude mít jen imaginární produkt a přes víkend jsem v Pythonu vytvořil Discord bota jménem Bivoj.
Jak to vzniklo
Chtěli jsme udělat parodii na AI kamarády, kteří se dají koupit na internetu, proto jsme přišli s revolučním nápadem: AI strejda. Bivoj bude váš AI strejda, kterému je 47 let, je věčně opilý alkoholik, jeho nejoblíbenější pivo je Gambrinus a rád se doma na gauči dívá na fotbal.
Výběr LLM
Potřeboval jsem nějakého chatbota, ale nechtělo se mi utrácet peníze za API, a nejchytřejší LLM, který dokáže spustit můj domácí server je pouze 13B model a já jsem chtěl něco chytřejšího. Proto jsem se rozhodl jít cestou web scrapingu s Python knihovnou Selenium. Napadlo mě použít DuckAI od firmy DuckDuckGO, protože jejich stránky nestřeží ani CAPTCHA nebo další antiscrapingové mechanismy. Mají na výběr z několika modelů, z nichž jeden je Llama 3.3 70B, který jsem se rozhodl použít.
Tvorba knihovny
Rovnou jsem si z toho udělal svoji Python knihovnu pro snadné univerzální použití do budoucna. Moje knihovna nyní fungovala podobně jako normální průmyslová API, takže jsem byl schopný například nastavit vlastní system prompt nebo třeba dostávat odpovědi ve formátu XML nebo JSON.
Knihovnu nechci nahrávat na GitHub nebo jinak zveřejňovat z důvodů podmínek používání DuckAI, které zakazují automaticky trénovat jinou umělou inteligenci na datech z umělé inteligence na jejich stránkách. To já sice nedělám, ale kód by k tomu mohl být zneužit.
Screenshoty z chatu
.png)
.png)
Tvorba obrázků
Bivojův vzhled byl vytvořen pomocí umělé inteligence. Zadání pro umělou inteligenci byly Bivojovy vlastnosti z předešlého popisu charakteru. Výsledek byl následující:
Jak napsat Bivojovi
Pokud byste měli zájem povídat si s opilým čtyřicátníkem na Discordu, stačí se připojit na můj Discord server, kde Bivoj bydlí a kde ho testuji. Pokud je zrovna online, odpovídá na zprávy do deseti sekund.