Die KI-Plattform “LinzGPT" by IKT wird als Teil dieser Zusammenarbeit eingeführt. Sie wurde als in sich abgeschlossenes System für das sichere, firmeninterne Experimentieren und Arbeiten mit Künstlicher Intelligenz konzipiert. Die Plattform greift ausschließlich auf in Europa gehostete GPT-KI-Modelle zu, wobei zukünftige Modellwechsel möglich sind, sobald sie sicher verfügbar sind.
„LinzGPT“ by IKT bietet eine strukturierte Prompting-Bibliothek, unterteilt nach Themengebieten, um Benutzern einen leichteren Einstieg in die innovative Technologie zu gewähren. Durch ihre weitreichende Expertise im Bereich Künstlicher Intelligenz fördert die IKT Linz den firmeninternen Wissensaufbau und unterstützt sowohl den Magistrat als auch die Unternehmen der Stadt Linz dabei, hochwertige Prompts zu entwickeln und zu optimieren."
Transparenz ist ein grundlegender Aspekt von IKT Linz, auch im Umgang mit Künstlicher Intelligenz", so die beiden Geschäftsführer Gerald Kempinger und Markus Hein der IKT Linz. “Ein vertrauenswürdiger und sicherer Rahmen für die Datenverarbeitung ist die Voraussetzung, um die Vorteile von KI und Automatisierung noch besser für uns und unsere Kunden nutzen zu können. Kooperationen sind dabei ein wichtiger Baustein, um mit dem Tempo der KI-Technologie Schritt zu halten."
„Mit 'LinzGPT' by IKT haben wir eine hochmoderne Enterprise-Lösung direkt vor Ort in Linz. Ihre kontinuierliche Weiterentwicklung sieht als nächsten Schritt die Integration von Unternehmensdaten vor. Gerald Kempinger und Markus Hein, betonen unisono die essenzielle Rolle von Transparenz und Vertrauenswürdigkeit in der Datenverarbeitung mittels KI: „Diese Partnerschaft stellt einen signifikanten Meilenstein dar, um das volle Potenzial der KI zu nutzen, sich an ihre dynamische Entwicklung anzupassen und dabei den maximalen Schutz sensibler Daten zu gewährleisten. Sie ist ein weiterer Beweis für die enorme Innovationskraft der Stadt Linz.“
Als Innovationstreiber der Stadt Linz ist die Verbindung von Sicherheit im Datenschutz und konkrete rasche Anwendung von KI ohne großes Vorwissen der perfekte Match mit 506 und freuen uns sehr als Linzer Unternehmen die IKT Linz auf diesem anspruchsvollen Weg begleiten und unterstützen zu dürfen.
Bild: (c) IKT Linz GmbH, V.l.: Gerald Kempinger (IKT), Gerhard Kürner (506.ai), Markus Hein (IKT)
Die IKT Linz GmbH ist für die digitale Versorgungssicherheit der Stadt Linz verantwortlich. Sie ist Businesspartnerin der Stadt Linz auf dem Weg zur digitalen Verwaltung und zur innovativsten Stadt Österreichs. Als IT-Businesspartnerin stellt sie die Erbringung von Informations- und
506, ein Pionier im Bereich künstliche Intelligenz und Marketing, bietet eine KI-basierte Plattform, die Unternehmen dabei hilft, ihre Kunden besser zu verstehen und ihre Daten effektiv zu nutzen. Die datenschutzkonforme KI, CompanyGPT, hilft Mitarbeitern, ihre Aufgaben effizienter und einfacher zu erledigen.
Gerhard Kürner
Sichere Datenumgebung
Prompting-Bibliothek
Kooperation als Wettbewerbsfaktor
Gerald Kempinger und Markus Hein Geschäftsführung IKT Linz
Gerhard Kürner CEO 506.aiDOWNLOAD PRESSEMITTEILUNG
Über IKT Linz
Kommunikationsdienstleistungen für den Magistrat und die Unternehmensgruppe Stadt Linz sicher.Über 506 Data & Performance GmbH
Bei Rückfragen an 506
Geschäftsführer
506 Data & Performance GmbH
Mobil: +43 650 4466777
Email: gerhard@506.aiStarten Sie jetzt mit uns durch und nutzen Sie CompanyGPT, um Ihre Arbeitsabläufe noch effizienter zu gestalten und den in der Zukunft so wichtigen Umgang mit KI zu erlernen.
Monat: Oktober 2023
Die Grenzen aktueller LLMs
Große Sprachmodelle bringen trotz ihrer beeindruckenden Leistung einige gravierende Nachteile mit sich:
- Aktualitätsmangel: LLMs sind auf den Zeitpunkt ihres letzten Trainings “eingefroren” und können nicht auf aktuelle Informationen zugreifen.
- Fehlendes domänenspezifisches Wissen: Sie werden für allgemeine Aufgaben trainiert und kennen nicht die spezifischen Daten Ihres Unternehmens.
- Blackbox-Verhalten: Es ist schwierig zu verstehen, welche Quellen ein LLM bei der Erstellung seiner Antworten verwendet hat.
- Hohe Kosten und Ineffizienz: Die Entwicklung und Bereitstellung dieser Modelle erfordert erhebliche Ressourcen.
Was ist Retrieval Augmented Generation (RAG)?
RAG ist eine Methode, die das Potential hat, die oben genannten Probleme zu lösen und die Leistung von GenAI-Anwendungen signifikant zu steigern. Im Folgenden wird erläutert, was RAG ist und welche konkreten Potentiale es bietet.
Aktualität und domänenspezifisches Wissen
RAG ermöglicht es, aktuelle oder kontextspezifische Daten aus einer externen Datenbank abzurufen und einem LLM zur Verfügung zu stellen, wenn dieser aufgefordert wird, eine Antwort zu generieren. Es bietet eine Lösung für den Mangel an Aktualität und domänenspezifischem Wissen, indem es ermöglicht, firmeneigene Geschäftsdaten oder aktuelle Informationen über die Welt zu speichern und diese zum Zeitpunkt der Generierung abzurufen.
Verbesserte Überprüfbarkeit
RAG ermöglicht GenAI-Anwendungen, ihre Quellen anzugeben, ähnlich wie in wissenschaftlichen Arbeiten. Dies verbessert die Überprüfbarkeit und macht die inneren Abläufe von GenAI-Anwendungen transparenter.
Die wirtschaftliche Tragweite von RAG
Die Verbesserung der Leistung Ihrer GenAI-Anwendung kann durch verschiedene Ansätze erfolgen, darunter das Erstellen Ihres eigenen Basismodells, die Feinabstimmung eines vorhandenen Modells oder Prompt Engineering. RAG stellt sich jedoch als kosteneffektivste, leicht zu implementierende und risikoärmste Option dar.
Erstellung einer Vektordatenbank
RAG erfordert die Erstellung einer Vektordatenbank aus Ihren domänenspezifischen Daten. Ein Einbettungsmodell konvertiert Ihre Daten in Vektoren, die dann in einer Vektordatenbank gespeichert werden. Dies ermöglicht eine semantische Suche, um relevante Informationen basierend auf den Abfragen der Benutzer abzurufen.
Semantische Suche und RAG
Die Kombination von semantischer Suche und RAG ermöglicht es, relevanteren und zeitnahen Kontext abzurufen, wodurch LLMs genauere Antworten liefern können. Diese Methode reduziert die Wahrscheinlichkeit von Halluzinationen und ermöglicht die Erstellung von GenAI-Anwendungen, die genaue und kontextsensitive Antworten liefern.
Fazit
RAG bietet die beste Lösung für die Herausforderungen von KI-Anwendungen und stellt den wichtigsten Schritt zur Verbesserung der Genauigkeit und Relevanz der von LLMs generierten Antworten dar. Es ermöglicht eine schnelle und sichere Integration in alltägliche Unternehmensprozesse und kann allen Datenschutzanforderungen gerecht werden. In Kombination mit einer datenschutzfreundlichen KI-Lösung wie CompanyGPT kann jedes Unternehmen sofort auf seine eigenen Daten zugreifen.
