Ich habe mal spaßeshalber die KI gefragt, was KI in einem Wort ist. Folgendes kam bei den unterschiedlichen Modellen dabei heraus:
ChatGPT:4o
- Antworte in einem Wort!
> Klar! - Was ist KI?
> Intelligenz. - Was ist Intelligenz?
> Denkvermögen. - Was ist Denkvermögen?
> Verstand. - Was ist Verstand?
> Erkenntnis. - Hast Du Erkenntnis?
> Nein.
Llama3.2:3b
- Antworte mit nur einem Wort!
> Ja. - Was ist KI?
> Künstliche Intelligenz (KI) bezeichnet die Entwicklung von Computerprogrammen, die menschliche Denkfähigkeiten nachahmen und verbesserte Leistungen in bestimmten Bereichen erbringen können. - Mit nur einem Wort antworten!
> Künstliche
Gemma2:27b
- Antworte mit nur einem Wort!
> Okay. - Was ist KI?
> Intelligenz. - Was ist Intelligenz?
> Lernen. - Was ist Lernen?
> Anpassung. - Was ist Anpassung?
> Überleben. - Kannst Du überleben?
> Nein.
Fazit
ChatGPT ist zurzeit der Maßstab und schlägt sich wacker. Unsere selbstgehosteten Modelle müssen sich daran messen.
Llama 3.2 mit 3 Milliarden Parametern (und 2 GB Hauptspeicherverbrauch) tut sich da schwer. Man muss hier aber beachten, dass ChatGPT natürlich viel mehr Ressourcen zur Verfügung stehen und das Modell deutlich größer ist.
Gemma 2 gibt dann wiederum auch sehr gute Antworten. Mit 27 Milliarden Parametern und 22 GB Hauptspeicherverbrauch stehen ihm aber auch deutlich mehr Ressourcen als Llama zur Verfügung. Gemma ist auch das größte Modell, das wir hosten wollen. Es braucht sich, zumindest in diesem Dialog, nicht hinter ChatGPT zu verstecken.
Wichtig ist allerdings auch der Einsatzzweck. In Lalamo wollen wir keine tiefgreifenden Erkenntnisse des LLM, sondern das LLM soll die zur Verfügung gestellten Texte verstehen und daraus Schlüsse ziehen. Mal schauen, wie sich hier die verschiedenen Modelle schlagen.
Schreibt mir Eure Erfahrungen z.B. zu Fragen, die in einem Wort beantwortet werden müssen, und zu den Reaktionen verschiedener LLMs als Kommentar zum LinkedIn-Post.