First large-scale inference cluster with Together AI on IBM Cloud using NVIDIA HGX B300 systems to help enterprises run AI workloads, designed for fast and efficient production

ARMONK, N.Y. and SAN FRANCISCO, Aug. 11, 2026 /PRNewswire/ -- IBM (NYSE: IBM) announced a collaboration with Together AI to deliver IBM and NVIDIA AI infrastructure. Under a multi-year $240M agreement between IBM and Together AI, IBM is positioned to deploy a large cluster of NVIDIA HGX B300 systems on IBM Cloud with expected availability in Q1 2027. Together AI will use this cluster to provide open-source model inference. This deployment is the first dedicated, large-scale cluster built for inference on IBM Cloud using HGX B300 systems and NVIDIA Spectrum-X^TM Ethernet networking. According to NVIDIA, it is built to deliver 30x more AI factory output compared to prior generations.

This collaboration aims to enable Together AI to deliver better performance and token economics to enterprises as they look to efficiently scale their AI deployments. Together AI is built on the principle that open-source models are essential for the future of AI and developers should be able to build using open, modular stacks. The company recently raised an $800M Series C financing round at an $8.3B valuation to expand its AI Native Cloud and its platform spans capabilities across inference, training, fine tuning, and agentic workflows. The company reports that it has seen significant momentum for its inference product, now serving 400 trillion tokens monthly.         

Together AI selected IBM with NVIDIA because of their innovative product roadmaps and their ability to deliver GPU capacity at the pace required for rapid AI scaling and lowest token cost. Building on IBM's expertise in delivering enterprise-grade cloud capabilities, this collaboration aims to help Together AI to continue its expansion into the enterprise space while making open-source AI more accessible to developers and enterprises around the world.

"Enterprises want the performance of the best frontier models without the closed-model price tag, and that only works if the infrastructure underneath is fast and reliable at scale," said Vipul Ved Prakash, CEO at Together AI. "Working alongside IBM with NVIDIA gives us that foundation. This cluster lets us bring production-grade inference to more companies, faster, and it's a big step in our push to make open-source AI the obvious choice for enterprises."

IBM and NVIDIA Expand Collaboration to Power the Next Wave of AI Innovation

"Enterprises are in a race to adopt agentic AI at scale to drive real business outcomes," said Alan Peacock, General Manager of IBM Cloud. "IBM and NVIDIA are delivering scalable, economical, enterprise-grade AI infrastructure that can help Together AI accelerate innovation for the next generation of AI infrastructure."

"AI factories are becoming essential enterprise infrastructure—like electricity and telecommunications—turning compute and data into intelligence," said Dion Harris, Senior Director, HPC and AI Infrastructure Solutions, NVIDIA. "With NVIDIA HGX B300 systems and NVIDIA Spectrum-X Ethernet networking on IBM Cloud, IBM and Together AI will deliver an accelerated computing platform to help enterprises deploy open-source AI with the performance, efficiency and scale required for real-time AI services."

This work is the latest example of a larger collaboration between IBM and NVIDIA, who continue to work together to advance AI across infrastructure and software, to deliver performance and efficiency for enterprise and startup clients. A hybrid environment on IBM Cloud powered by NVIDIA GPUs connected with NVIDIA Spectrum-X Ethernet networking and Together AI's inference platform gives organizations a reliable foundation to build, deploy and scale AI systems. Additionally, IBM and NVIDIA recently announced progress across GPU-native data analytics, unstructured data extraction, on-premises and cloud infrastructure, and consulting services. These advancements are designed to help organizations operationalize AI at scale. For more information about the IBM and NVIDIA collaboration, visit www.ibm.com/products/gpu-ai-accelerator/nvidia.

Statements regarding IBM's future direction and intent are subject to change or withdrawal without notice, and represent goals and objectives only.

About IBM

IBM is a leading provider of global hybrid cloud and AI, and consulting expertise. We help clients in more than 175 countries capitalize on insights from their data, streamline business processes, reduce costs and gain a competitive edge in their industries. Thousands of governments and corporate entities in critical infrastructure areas such as financial services, telecommunications and healthcare rely on IBM's hybrid cloud platform and Red Hat OpenShift to affect their digital transformations quickly, efficiently and securely. IBM's breakthrough innovations in AI, quantum computing, industry-specific cloud solutions and consulting deliver open and flexible options to our clients. All of this is backed by IBM's long-standing commitment to trust, transparency, responsibility, inclusivity and service. Visit www.ibm.com for more information.

About Together AI

Together AI is the AI Native Cloud, combining state-of-the-art open-source models, high-performance infrastructure, and frontier research in AI efficiency and scalability. Founded in 2022, Together AI powers over a million of developers and some of the world's most demanding AI workloads, delivering production-scale inference, training, and reinforcement learning for the next generation of AI-native companies.

Media Contact

Kate Gazzillo 

kate.gazzillo@ibm.com

View original content to download multimedia:https://www.prnewswire.co.uk/news-releases/ibm-and-together-ai-sign-multi-year-agreement-to-scale-open-source-ai-inference-with-nvidia-ai-infrastructure-on-ibm-cloud-302847781.html

Der hessische Ministerpräsident Boris Rhein (CDU) hat eine Neujustierung des Umgangs mit der AfD im Bundestag gefordert und damit eine innerparteiliche wie parlamentarische Grundsatzdebatte angestoßen. In einem Interview mit dem Magazin „Stern“ plädierte der CDU-Politiker dafür, der AfD die ihr nach dem üblichen Verteilungsschlüssel zustehenden Vorsitzendenposten in den Fachausschüssen des Bundestags nicht länger zu verwehren. „Die Partei ist gewählt, und so sollte man mit ihr auch umgehen“, sagte Rhein und verwies darauf, dass die AfD im hessischen Landtag und in anderen Länderparlamenten bereits Ausschussvorsitze innehat.

Im Bundestag verfügt die AfD wie die anderen Fraktionen über ein Vorschlagsrecht für bestimmte Ausschussvorsitze. Bisher scheiterte sie jedoch regelmäßig daran, dass ihre Kandidatinnen und Kandidaten bei den Wahlen in den Ausschüssen nicht die Unterstützung der Abgeordneten der übrigen Parteien erhielten und damit die nötigen Mehrheiten verfehlten. Eine Klage der AfD-Bundestagsfraktion vor dem Bundesverfassungsgericht blieb im September 2024 ohne Erfolg; Karlsruhe sah keinen Anlass, in das Verfahren der Ausschussbesetzungen einzugreifen. Politisch aber gewinnt die Frage durch Rheins Vorstoß neue Brisanz.

Rhein grenzt sich zugleich von einer inhaltlichen Annäherung an die AfD ab und lehnt ein Verbotsverfahren gegen die Partei ab. Er halte das vielzitierte Bild einer „Brandmauer“ für falsch, betonte der CDU-Landeschef. Für die Union gelte: „Wir grenzen uns klar von der AfD ab, aber wir grenzen die Partei nicht aus.“ Das müsse sich auch in der Parlamentsarbeit widerspiegeln. Anstelle juristischer Schritte warb Rhein dafür, die AfD politisch zu stellen: Die CDU müsse den Wählerinnen und Wählern „ein besseres Angebot machen“ und die „Deutungshoheit über die Alltagsfragen“ zurückgewinnen. Eine Zusammenarbeit mit der AfD setze aus seiner Sicht eine „Politik der klaren roten Linien“ voraus.

Die AfD bewertet die Äußerungen des hessischen Regierungschefs als Signal eines sich abzeichnenden Kurswechsels in der Union. Der Parlamentarische Geschäftsführer der AfD-Bundestagsfraktion, Bernd Baumann, sprach gegenüber der Nachrichtenagentur AFP von einem „überfälligen“ Schritt und einem Zeichen für ein „generelles Umdenken in der CDU“. Die Forderung nach Ausschussvorsitzen sei „nur der erste Schritt – weitere werden folgen“, prognostizierte Baumann. Angesichts jüngster Wahlergebnisse sehe er die Union unter Druck, ihre bisherige Ausgrenzungsstrategie zu überdenken. Koalitionsfraktionen im Bundestag wiesen einen von Rhein geforderten Kurswechsel allerdings zurück und halten bislang an der Linie fest, AfD-Kandidaten für Ausschussvorsitze nicht zu unterstützen.

In den Fachausschüssen des Bundestags wird ein Großteil der inhaltlichen Gesetzgebungsarbeit vorbereitet. Die Vorsitzenden spielen eine zentrale Rolle bei der Organisation der Beratungen und der Tagesordnungsgestaltung. Die Verteilung dieser Schlüsselpositionen erfolgt nach einem festgelegten Schlüssel zwischen den Fraktionen, doch bleibt die tatsächliche Besetzung an die Wahl durch die Ausschussmitglieder gebunden. Vor diesem Hintergrund berührt die von Rhein angestoßene Debatte nicht nur die Machtbalance zwischen den Fraktionen, sondern auch die Frage, wie das Parlament mit Parteien umgeht, die zwar demokratisch gewählt sind, von großen Teilen des Hauses aber weiterhin klar abgelehnt werden.