Der LLM API-Dienst stellt die Einführung des AI as-a-Service von Infomaniak dar, der in den kommenden Monaten weiterentwickelt wird. Unternehmen, die sensible Daten verarbeiten, können nun eine vertrauenswürdige generative KI in ihre Anwendungen integrieren, bei der die Kontrolle über ihre Daten sichergestellt ist. Die von Infomaniak bereitgestellte Open-Source-Software wird in der Schweiz gehostet und ist günstiger als ChatGPT. Sie kann Texte in vielen Sprachen verstehen und verarbeiten und komplexe Programmier- und Datenanalyseaufgaben ausführen. Bei der Erstellung eines Kontos gibt es 1 Mio. Tokens kostenlos.
Vertrauenswürdige und umweltfreundliche Open-Source-KI
Mit AI-as-a-Service verpflichtet sich Infomaniak, stets die beste Open-Source-Technologie im KI-Bereich anzubieten. Das bei der Einführung des Dienstes verwendete Sprachmodell basiert auf Mixtral 8x7B, einer freien Technologie, deren Algorithmus und Funktionsweise von Ingenieurinnen und Ingenieuren auf der ganzen Welt nachvollzogen werden können.
Diese generative KI garantiert Unternehmen die vollständige Datenkontrolle und Konformität mit der schweizerischen und europäischen Gesetzgebung: Mit der KI ausgetauschte Daten werden ausschliesslich für Kundenzwecke verwendet. Es werden keine Informationen ausgewertet oder weiterverkauft, KI-Prompts werden nicht protokolliert, und alles wird ausschliesslich in der Infrastruktur von Infomaniak in der Schweiz gehostet.
Die API-Dokumentation ermöglicht Entwickler*innen die einfache Integration von KI in die Arbeitsumgebungen von Unternehmen, um beispielsweise virtuelle Assistenten zu erstellen, Fragen zu beantworten, zusammenzufassen, zu klassifizieren, zu korrigieren, zu generieren, zu übersetzen oder auch Stimmungsanalysen von Inhalten durchzuführen.
Aus ökologischer Sicht ist es unser Ziel, KI-Dienste so umweltfreundlich wie möglich zu erbringen:
- Unsere Aktivitäten werden ausschliesslich durch erneuerbare Energien ermöglicht.
- Die von unseren Diensten verbrauchte Energie wird dank unseres neuen Datacenters vollständig wiederverwertet.
- Wir bevorzugen energieeffiziente Modelle. Die Mixtral-Architektur verwaltet beispielsweise insgesamt 45 Milliarden Parameter, verwendet aber nur 12 Milliarden pro Token. Dies senkt den Energieverbrauch beträchtlich und liefert gleichzeitig bessere Ergebnisse als Llama 2 und ChatGPT 3.5.
Die KI-Dienste von Infomaniak entwickeln sich weiter
KI ist eine Datenrevolution. Das wissenschaftliche Know-how und die Rechenleistung sind seit Langem vorhanden. Das letzte fehlende Puzzleteil der KI betraf die Fähigkeit, riesige Datensätze zusammenzutragen. Swan Blanc, KI-Entwickler bei Infomaniak
Im nächsten Schritt soll Unternehmen ermöglicht werden, unsere KI mit ihren persönlichen Daten zu verknüpfen, um vollständig benutzerdefinierte Antworten zu liefern.
Parallel dazu integrieren wir KI schrittweise in unser gesamtes Ökosystem:
- Mit Site Creator wird es möglich sein, Text für eigene Blogartikel und Webseiten zu generieren.
- Die Videohosting-Plattform von Infomaniak wird ermöglichen, automatisch Untertitel eigener Videos zu generieren.
- Unsere Videokonferenz-Lösung kMeet wird automatisch eine Zusammenfassung Ihrer Online-Meetings generieren können.
- Demnächst wird eine Speech-to-Text-API unsere KI-Dienste ergänzen.
Sensible Daten mit KI verarbeiten
Daten sind die Grundlage für KI. Bei bestimmten Anbietern wie OpenAI ist offensichtlich, dass Daten systematisch analysiert werden. Jede zusätzliche Information, die eingegeben wird, macht den Algorithmus noch leistungsfähiger.
Proprietäre KIs sind Blackboxen. Ihre Funktionsweise ist undurchsichtig. Ausserdem lässt sich nicht herausfinden, welche Stationen die Daten durchlaufen, ob sie sicher sind, wie und wie lange sie genutzt werden usw. Andere Nutzer*innen könnten potenziell private Daten allgemein offenlegen – entweder völlig durch Zufall oder durch gezieltes Befragen der KI…
Der Ansatz von Infomaniak ist klar und transparent:
- Unsere KI basiert auf überprüfbaren Open-Source-Modellen. Demgemäss ist es einfacher, die Ausrichtung ihrer Algorithmen und die Daten, mit denen sie trainiert wurden, einzuschätzen.
- Wir trainieren aktuell keine Modelle. Nur die Endverwendung erfolgt durch Infomaniak über eine vertrauenswürdige Infrastruktur – ganz ohne Logs, Analysen oder Datenspeicherung.
- Unser Angebot ermöglicht spezifische Anpassungen mit Vorprompts oder Einschränkungen im Vorfeld, um den Einsatz von KI für böswillige Zwecke wie das Generieren von Spam zu verhindern.
Mehr erfahren
Fallstudie: RGOODS entwickelt internationale NGO-Shops mit Cloud-Lösungen von Infomaniak
Donnerstag 28 März 2024