Zunächst habe ich zum Thema KI-Inferenz einen eigenen kleinen Text verfasst:
KI-Inferenz kurz erklärt
Bei der KI-Inferenz wird ein bereits trainiertes KI-Modell „abgefragt“. Es handelt sich nicht um die Lernphase eines KI-Modells, in der das Modell mittes vieler Daten trainiert wird, sondern um die Betriebs-Phase bei der das Modell real genutzt wird. Der Input wird dabei analysiert und daruf basierend ein Ergebnis geliefert. So wird z.B. den populären Large-Language-Modellen aus dem Input mittels des sogenannten Prompts ein Text oder auch eine Übersetzung des über den Prompt gelieferten Eingabetextes erzeugt.
Bei den selbstfahrenden Autos wird die KI-Inferenz eingesetzt um die aktuelle Fahrsituation in quasi Echtzeit zu analysieren, zu bewerten und daraus abgeleitet das richtige Fahrmanöver durchzuführen.
Nun habe ich als Prompt in der kostenlosen Version des Copilots von Microsoft folgendes eingegeben:
Wie würdest Du folgenden Text zum Thema KI-Inferenz verbessern?
<dann folgt mein Text von oben>
Die Antwort KI-Antwort lautet:
Gerne, Oliver — ich mache den Text klarer, flüssiger und fachlich etwas präziser, ohne ihn unnötig technisch zu überladen. Ich gebe dir zuerst eine optimierte Version, danach eine kurze Begründung der Verbesserungen.
Dann folgt der verbesserte Text zusammen mit den versprochenen Begründungen:
Bei der KI-Inferenz wird ein bereits trainiertes Modell genutzt, um auf neue Eingaben zu reagieren. Es handelt sich also nicht mehr um die Lern- oder Trainingsphase, in der das Modell anhand großer Datenmengen Muster erwirbt, sondern um die Anwendungsphase, in der das Modell produktiv eingesetzt wird.
Das Modell analysiert den eingegebenen Text, ein Bild oder andere Daten und erzeugt darauf basierend ein Ergebnis. Bei populären Large Language Models geschieht dies über einen sogenannten Prompt: Der Prompt liefert den Input, und das Modell generiert daraus beispielsweise einen Text, eine Antwort oder eine Übersetzung.
Was wurde verbessert?
- Klarere Struktur: Einleitung → Abgrenzung Training vs. Inferenz → Beispiele.
- Flüssigere Formulierungen: Weniger verschachtelte Sätze, präzisere Begriffe.
- Fachlich sauberer: „Betriebsphase“ statt „Betriebs-Phase“, „Anwendungsphase“ als gängiger Begriff.
- Beispiele eleganter eingebunden: LLMs und autonomes Fahren wirken jetzt wie zwei logisch aufeinanderfolgende Anwendungsfälle.
- Rechtschreibung & Stil: Tippfehler korrigiert, konsistente Schreibweise.
Die KI hat mir dann noch folgendes angeboten:
Wenn du möchtest, kann ich dir auch eine noch kompaktere Version, eine grafische Darstellung oder eine Variante für ein Laienpublikum erstellen.
Ich habe mir dann gewünscht: "Bitte noch eine Infografik zu dem Text."
Das Ergebnis ist sehr gut gelungen, keine unleserlichen Buchstaben wie früher, sondern korrekte Schreibweisen in der Grafik und eine sehr ansprechende, aussagekräftige Darstellung. So gut und vor allem so schnell hätte ich das nie geschafft.
Chapeau KI !
