Ollama bringt Cloud-Modelle
Wenn du mir schon eine Weile auf diesem Blog folgst, weißt du: Ollama war bislang vor allem eine Lösung, um große Sprachmodelle lokal auf dem eigenen Rechner laufen zu lassen. Ich habe Ollama hier im Blog schon mehrmals vorgestellt und darüber geschrieben, wie man Modelle zieht, betreibt und mit ihnen interagiert – mit dem Vorteil, dass die Daten lokal bleiben und man Unabhängigkeit gewinnt. Aber natürlich war das mit Nachteilen verbunden: Wenn dein Rechner nicht genügend Rechenpower hat, kannst du spürbare Geschwindigkeitseinbußen erleben.
GitHub Models mit einer .NET-Konsolen-Chat-Anwendung erkunden
Künstliche Intelligenz ist heute zugänglicher denn je – und mit GitHub Models kannst du jetzt eine Vielzahl von Large Language Models (LLMs) direkt über GitHub ausprobieren.
Das Beste daran? Viele dieser Modelle – auch von anderen Anbietern als OpenAI – können kostenlos getestet werden.
In diesem Beitrag zeige ich dir, wie du eine einfache .NET-Konsolen-Chat-Anwendung erstellst, die GitHub Models nutzt. Dabei richten wir den notwendigen Zugriff ein, probieren verschiedene Modelle aus und sehen, wie einfach es ist, mit modernster KI zu experimentieren.
Warum halluzinieren Sprachmodelle?
Künstliche Intelligenz begeistert und irritiert zugleich: Sprachmodelle wie ChatGPT können in Sekunden komplexe Texte verfassen, wirken dabei oft erstaunlich kompetent – und liegen trotzdem manchmal völlig daneben. Diese „Halluzinationen“ sind keine seltene Panne, sondern ein strukturelles Problem. Das Paper „Why Language Models Hallucinate“ von OpenAI geht genau dieser Frage auf den Grund und liefert spannende Einblicke, warum KI zum Raten neigt und was das mit unserer Art zu testen und zu bewerten zu tun hat.
Windows Terminal unter Windows 11 mit Oh-My-Posh einrichten
ine frische Windows-Installation bringt in der Regel auch gleich das Windows Terminal mit, das als moderne Alternative zur klassischen PowerShell- oder CMD-Konsole dient. Mit ein paar Handgriffen lässt sich das Terminal nicht nur optisch aufwerten, sondern auch funktional deutlich verbessern. In diesem Beitrag zeige ich dir Schritt für Schritt, wie du dein Terminal mit Oh-My-Posh einrichtest.