NLP im unternehmerischen Kontext III – Anbieter

Während die Möglichkeiten von NLP gerade die Entscheider in Banken zu inspirieren beginnen, gibt es seit Jahren zahlreiche Lösungen auf dem Markt. Die Angebotsseite trennt sich einerseits in die grossen amerikanischen Technologie-Konzerne, die NLP-Anwendungen als Teil ihre Cloud-Lösungen offerieren. Daneben buhlen teils sehr spezialisierte Start-Ups um Kundschaft. In diesem 3. Teil der Blog-Serie soll ein Überblick über den deutschen und schweizerischen NLP-Start-Up-Markt geboten und erörtert werden, wohin sich die Dichotomie zwischen Big-Tech und Start-Ups entwickeln könnte.

Open Source ist für alle, die sich für NLP interessieren, ein Segen. Mit Paketen wie Polyglot, ChatterBot, Gensim, NLTK, SpaCy und vielen weiteren stehen state-of-the-art Libraries für NLP-Anwendungen zur Verfügung. Speziell SpaCy bietet sich für Anfänger sowie für weniger spezialisierte Aufgaben an, da es für alle Anwendungen einfach nutzbare, performate, schnelle und relativ gute Pipelines bietet. Für Bots eignen sich ChatterBot oder die Open-Source-Komponente von rasa.

NLP-Start-Ups sind hierdurch gezwungen, sich von den freien Angeboten zu differenzieren. Rasa beispielsweise vertreibt zusätzliche Services jenseits der Open-Source-Library, die grundlegenden Funktionalitäten sind jedoch öffentlich. Andere bieten spezielle Dienste an, etwa Protokollierung (speech-to-text) oder Transkription. Eine (unvollständige) Liste aktueller Anbieter findet sich in folgender Tabelle:

FirmaKategorieProdukteNotiz
advaisorAnalyticsInterne und externe Text-AnalyticsDas Unternehmen aus Zürich mit Niederlassung in San Francisco bietet verschiedene Lösungen rund um Customer Analytics mit besonderem Augenmerk auch auf Netiquette im Schriftverkehr
finityAnalyticsNews analyticsLeider gibt es zu dem Start-up von ETH-Lausanne-Absolventen nicht viele Informationen online. Linked.in listet 12 Mitarbeitende, die hauptsächlich in der Schweiz sitzen.
msgAnalyticsHolmes-Extraktor für Information ExtraktionMSG ist bereits 40 Jahre alt und verdient sein Geld mehrheitlich mit langweiligeren Digitalisierungs-Dienstleistungen wie SAP-Migrationen. Allerdings hat ein Team den Open-Source Holmes-Extraktor gebaut, wahrscheinlich eher als Türöffner für das haus-eigene Consulting.
yukkalabAnalyticsNews analyticsMarktführer für Analysen (Sentiment, Topic Modelling, weitere) auf Basis von Internet-Seiten und Social-Media-Posts. 2016 in Berlin gegründet, ist seit jüngstem auch die UBS Kundin.
turicodeBasis-TechnologieText-Extraktion aus verschiedenen Datei-FormatenSpezialisiert auf diesen eher unsexy, aber grundlegenden Bereich, der als Enabler vieler NLP-Use-Cases dienen könnte (v.a. internes Wissensmanagement). Code-Challenge 2019 gewonnen und Kunden wie Migrosbank oder Vontobel.
DeepsetBasis-TechnologieModelle, pipelines, nlp-stackDeepset ist ein führender Anbieter von SoA NLP Modellen und Paketen. Das Berliner Start-Up bietet jedoch keine fertigen Produkte an, die nur noch implementiert werden müssten.
explosionBasis-TechnologieAnnotation Tool, NLP-PaketExplosion hat mit spaCy das wohl populärste NLP-Paket geschaffen. Daneben bietet das mehrheitlich in Berlin situierte Unternehmen ein Annotation Tool sowie eine Deep Learning Library. Da Explosion bloss sein Annotation Tool vermarktet, bietet es sich als günstige Lösung für DIY Ansätze an.
traverzBasis-TechnologieNLP-erweiterte Suche, ersetzt Filter in den Such-Feldern auf digitalen MarktplätzenDas 2018 gegründete Start-up hat sich „humanizing search” auf die Fahnen geschrieben und bietet sein Tool vor allem im eCommerce und auf Marktplätzen feil.
aaronBotSprach-Bot, customer analyticsDie Berliner positionieren sich seit 2015 als smarter Telefonassistent für kleine Unternehmen wie Arzt-Praxen. Die Enterprise Plattform wird allerdings auch von Konzernen im Support genutzt.
botfriendsBotBot oder Middleware zur Verwaltung von verschiedenen NLP-EnginesDas 2017 in Würzburg gegründeten Start-Up bindet verschiedene (auch externe) NLP-Lösungen zentral an und ermöglicht es so, zielgerichtete Bots aufzusetzen. Die Bots lassen sich sowohl mit Enterprise Software wie Office als auch mit Kanälen wie Whattsapp verbinden und sind daher v.a. für Konzerne mit vielfältigen NLP-Lösungen interessant.
enterprisebotBotCustomisierte, vielsprachige und integrierbare (office, SAP, …) Bots für UnternehmenDer 2016 gegründete Bot-Spezialist listet u.a. SIX (Go-Card) und Generali als Kunden. Die Entwicklung findet in Indien statt, das Sales-Team sitzt seit 2016 in Zug.
rasaBotBotsRasa bietet Bots an, die besonders auf Finanzdienstleister spezialisiert sind. So klingt die Success Story mit N26 denn auch vielversprechend. Mit Büros in San Francisco, Edinburgh und dem Hauptsitz in Berlin scheint das Unternehmen zügig zu wachsen. Kern-Technologien sind spannenderweise Open Source, sein Geld verdient Rasa mit Anwendungen auf der Basis der Gratis-Software. 
reply.aiBotChat-Botreply wurde von Kustomer, einer New Yorker CRM-Plattform mit einer 60m Series E Finanzierung gekauft. Es bietet Bots für eCommerce-Plattformen an.
spinningbytesBot; NLPAnalytics, Bots, TranskriptionenDas 5 Jahre alte ETH-Zürich-Spinoff bietet zahlreiche Dienstleistungen rund um NLP und speech-to-text. Auffällig sind die wissenschaftlichen Beiträge und die Siege in NLP-Challenges.
spitchBot; NLP; speech-to-TextSupport-OptimierungUmfassendes Angebot im Umfeld Support inkl. Customer Authentification, Fraud, Onboarding, Sprachbasiertes eBanking. Spitch zählt zahlreiche namenhafte und internationale Kunden wie Swisscom, Avaloq, Oracle und Banken wie St. Galler KB als Kunden. Bieten eine SaaS / Cloud Sandbox für PoV
dydonNLPNlp-stack vollständig, jedoch kein BotDas KI-Unternehmen aus Herrliberg bietet zahlreiche Lösungen in einem Baukasten-System an – seit 2016.
superNLPNER, email understanding, sentiment, Image TaggingVielseitige KI-Anwendungen, besonders im Bereich NLP und Image Recognition. Gegründet in Zürich mit Büro in Seattle und über 20 Mitarbeitern.
recappSpeech-to-TextProtokollierung, Archivierung (FR, DE, Mundart, IT)Recapp ist auf speech-to-text spezialisiert. Ausnahmsweise ist das Unternehmen aus Visp, jedoch bietet Recapp, 2014 gegründet, nun auch ein Office in Zürich auf. Gerade im Bereich Archivierung, in Verbindung mit den angeblichen Fähigkeiten in Schweizer Mundart, bieten sich viele Use Cases für B2C und Medien-Unternehmen.
prominente NLP-Start-Ups in Deutschland und der Schweiz

Gerade Explosion, Spitch, yukkalab oder deepset bieten international gefragte Lösungen an. Die Tech-Hubs Berlin, Zürich und Lausanne – respektive deren Unis – bieten gute Bedingungen für Tech-Start-Ups. Weiterhin fällt auf, dass die meisten Firmen ihre Angebote um 2015-6 entwickelt haben.

Vor dem Hintergrund der rasanten Entwicklung seit 2018 muss deshalb besonders darauf geachtet werden, ob die angebotenen Lösungen mit der Explosion der Grundlagen-Technologie Schritt halten. Turicode etwa konnte noch im vergangenen Jahr eine internationale Code-Challange gewinnen. Andere Anbieter preisen noch ihre Preise aus dem Vor-BERT-Zeitalter an.

Modellgrösse der Transformer seit 2018 (Quelle: medium)
Modellgrössen 2020 (rotes Quadrat zeigt linkes Bild)

Ein vertiefter Blick lohnt sich bei rasa. Rasa vertreibt Bots, deren technische Grundlage Open-Source entwickelt werden. Die Rasa-Community umfasst über 450 nicht entlohnte Programmierer. Diese können die Rasa-Architektur nutzen, um spezialisierte Bots zu programmieren. Wenngleich hier Machine Learning zur Anwendung kommt, so bedarf es hierzu doch zahlreicher manueller Konfigurationen. Rules, steps, actions und responses müssen alle selbst codiert werden. Diese fehleranfällige, aufwendige Art bietet sich eventuell für Kunden an, die viel Aufwand betreiben können, um die Bots zu “customizen”. Gegen die scheinbare Omnipotenz von BERT, GPT und Co. Erscheint dieser Ansatz jedoch auf Dauer nicht konkurrenzfähig. 

Sollte Open-AI etwa dedizierte Anwendungen auf Basis von GPT3 anbieten, so könnte dies viele Start-Ups überflüssig machen. Die anderen grossen Transformer seit BERT wurden von exakt jenen Big-Techs entwickelt, die als Cloud-Anbieter danach streben, tief in die Systeme von Unternehmen einzudringen. Off-the-Shelf Anwendungen aus dem Bereich Machine-Learning sollen die Kunden von der Cloud abhängig machen. Entwickeln die Konzerne immer mehr solcher Dienstleistungen auf Basis ihrer Architekturen, so könnten Start-Ups in die Marktränder vertrieben werden. Mit den Abermillionen an Entwicklungs- und Trainingskosten können sie nicht Schritt halten. 

Aus diesem Grund erscheinen einerseits spezialisierte Start-Ups interessant, weil Big-Techs weniger ökonomische Anreize haben, Spezialanwendungen zu entwickeln. Auf der anderen Seite können sich die besten Start-Ups, die schon jetzt umfassende Anwendungen anbieten, als kompetente Partner erweisen, die ihre Kunden nicht in die Abhängigkeit führen können.

In jedem Fall wird es für interessierte Banken essentiell, NLP (wie Machine Learning generell) zu einer Kernkompetenz zu entwickeln. Aufgrund mangelnder interner Kompetenzen und Ressourcen wird es notwendig, einzelne Anwendungen einzukaufen. Es braucht jedoch qualifizierte interne Data Analysts und Data Scientists, welche die Anbieter fachlich evaluieren und Mehrwert stiftende Ergebnisse ableiten können. Mit der Vernachlässigung von Client-Analytics würden Banken denselben Fehler begehen wie bei der Auslagerung der Zahlungsabwicklung an Visa, MasterCard und Co.

One thought on “NLP im unternehmerischen Kontext III – Anbieter

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

%d bloggers like this: