AI

Autor: Jarosław Jamka

Another nervous week on the markets is behind us, additionally with weak data from the US job market. The market is „panicking”, but the best summary of what happened on Friday I read on zerohedge:

„The schizophrenic market tries to decide if it wants a 25bps cut, a 50bps cut, and weather it prefers a soft or a hard landing.”

While the market is „panicking”, this does not apply to the Fed. At least for now, the Fed does not intend to give in to emotions and cut rates by 50 bps on September 18 – but only by 25 bps. You could say that the Fed is taking a calm approach to the data, and not only today’s, but over the past year… The Fed did not overreact (by cutting rates) to low inflation readings in 2H2023, did not overreact (by raising rates) to high inflation readings in 1H2024, and should not overreact to recession fears (e.g. by cutting rates by 50 bps on September 18).

The market got spooked by the slowing labor market, which is mainly visible in (1) falling monthly job growth (establishment survey, CES), and (2) rising unemployment rate (household survey, CPS).

CES provides much more reliable data due to a much larger sample (119,000 businesses and government agencies, representing about 629,000 individual workplaces). The approximate size of over-the-month change in employment required for statistical significance at the 90-percent confidence level for CES is +/-130k. For CPS, however, it is as much as +/-600k (sic!).

So let’s look at how the labor market has historically slowed down in previous cycles. Figure 1 shows the annual, 6-month and 3-month change in employment according to CES survey.

We are indeed slowing down now, but +1.51% YoY change… means that we are either already in recession (like in 1990) or we are 29 months away from recession… like in 2017 – see Figure 2.

+0.62%.. 6-month change… means that we are either already in recession (like in 1990) or we are 25 months away from recession… like in 2017 – see Figure 3.

+0.22% 3-month change… – see Figure 4. It is not a good idea to look at a 3-month change, but for the full analysis… we are between 7 months and 18 months away from recession.

All-in-all, the labor market is slowing down, but:

– firstly, one shouldn’t look at just one data series to conclude whether we are already in a recession (only a holistic view can be helpful here),

– secondly, a slowing labor market is not the best tool for timing a recession (the history of recent cycles suggests that we are either already in a recession or we will be in it in 2.5 years),

– and in a sotf-landing scenario, like in 1996 – when the labor market also quickly slowed down and the Fed also started cutting rates – the 2001 recession was still… try… 5 years away 😊.

Niniejszy materiał jest informacją reklamową. Ma charakter edukacyjno-informacyjny i stanowi wyraz własnych ocen, przemyśleń i opinii autora. Niniejszy materiał służy jedynie celom informacyjnym i nie stanowi oferty, w tym oferty w rozumieniu art. 66 oraz zaproszenia do zawarcia umowy w rozumieniu art. 71 ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (t.j. Dz. U. z 2020 r. poz. 1740, 2320), ani oferty publicznej w rozumieniu art. 3 ustawy z dnia 29 lipca 2005 r. o ofercie publicznej i warunkach wprowadzania instrumentów finansowych do zorganizowanego systemu obrotu oraz o spółkach publicznych (t.j. Dz. U. z 2022 r. poz. 2554, z 2023 r. poz. 825, 1723) czy też oferty publicznej w rozumieniu art 2 lit d) Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/1129 z dnia 14 czerwca 2017 r. w sprawie prospektu, który ma być publikowany w związku z ofertą publiczną papierów wartościowych lub dopuszczeniem ich do obrotu na rynku regulowanym oraz uchylenia dyrektywy 2003/71/WE (Dz. Urz. UE L 168 z 30.06.2017, str. 12); Niniejszy materiał nie stanowi także rekomendacji, zaproszenia, ani usług doradztwa. prawnego, podatkowego, finansowego lub inwestycyjnego, związanego z inwestowaniem w jakiekolwiek papiery wartościowe. Materiał ten nie może stanowić podstawy do podjęcia decyzji o dokonaniu jakiejkolwiek inwestycji w papiery wartościowe czy instrumenty finansowe. Informacje zamieszczone w materiale nie stanowią rekomendacji w rozumieniu przepisów Rozporządzenia Parlamentu Europejskiego i Rady (UE) NR 596/2014 z dnia 16 kwietnia 2014 r. w sprawie nadużyć na rynku (rozporządzenie w sprawie nadużyć na rynku) oraz uchylające dyrektywę 2003/6/ WE Parlamentu Europejskiego i Rady i dyrektywy Komisji 2003/124/WE, 2003/125/WE i 2004/72/ WE. (Dz. U UE L 173/1 z dnia 12.06.20114). NDM S.A., nie ponosi odpowiedzialności za prawdziwość, rzetelność i kompletność oraz aktualność danych i informacji zamieszczonych w niniejszej prezentacji. NDM S.A. nie ponosi również jakiejkolwiek odpowiedzialności za szkody wynikające z wykorzystania niniejszego materiału, informacji i danych w nim zawartych. Zawartość materiału została przygotowana na podstawie opracowań sporządzonych zgodnie z najlepszą wiedzą NDM S.A. oraz przy wykorzystaniu informacji i danych publicznie dostępnych, chyba, że wyraźnie wskazano inne źródło pochodzenia danych.

Autor: Jarosław Jamka

As usual, Nvidia beat Wall Street expectations, both in terms of Q2 2024 results (the quarter ending July 31, 2024), but also provided guidance for the next quarter above market expectations.. and it has been the case for many quarters … see Figure 1.

Looking at the main market narratives and investor sentiment … regardless of the earnings beat, probably Nvidia’s stock price would have fallen anyway.

Two days after the results were released, Nvidia is down 4.97% (while the S&P500 is up 1.01%). Relatively, Nvidia is losing 5.97% to S&P500 – see Table 1.

Historically (after the last 6 quarterly earnings releases) Nvidia has always beaten S&P500 – counting to the end of a given quarter, i.e. before the publication of the next earnings – see Figure 2. Table 1 (last column) shows higher rates of return compared to S&P500 from 4% to 47% (on relative basis).

Key takeaways after the Nvidia’s earnings call:

1) It’s all about growth, growth, growth!

Colette M. Kress : “Hopper demand is strong, and Blackwell is widely sampling. (…) Blackwell production ramp is scheduled to begin in the fourth quarter and continue into fiscal year ’26. In Q4, we expect to get several billion dollars in Blackwell revenue. Hopper shipments are expected to increase in the second half of fiscal 2025. Hopper supply and availability have improved. Demand for Blackwell platforms is well above supply, and we expect this to continue into next year”.

“NVIDIA H200 platform began ramping in Q2, shipping to large CSPs, consumer Internet, and enterprise company. The NVIDIA H200 builds upon the strength of our Hopper architecture and offering over 40% more memory bandwidth compared to the H100”.

Currently, Nvidia sells chips on the Hooper platform (H100 and H200), the next platform will be Blackwell, and the one after that Rubin.

2) The next AI demand is „Sovereign AI” – nothing new, but Nvidia has given numbers for the first time …

„Our sovereign AI opportunities continue to expand as countries recognize AI expertise and infrastructure at national imperatives for their society and industries. Japan’s National Institute of Advanced Industrial Science and Technology is building its AI Bridging Cloud Infrastructure 3.0 supercomputer with NVIDIA. We believe sovereign AI revenue will reach low double-digit billions this year.”

3) According to Nvidia… generative AI is accelerating: more scale and compute; image generation; coding; general robotics; physical AI; synthetic data generation..

“And there are several things that are happening in generative AI. So, the first thing that’s happening is the frontier models are growing in quite substantial scale. (…) And so, it’s not unexpected to see that the next-generation models could take 10, 20, 40 times more compute than last generation. (…) The second is although it’s below the tip of the iceberg, what we see are ChatGPT image generators. We see coding. We use generative AI for coding quite extensively here at NVIDIA now.

And then general robotics. The big transformation last year as we are able to now learn physical AI from watching video and human demonstration and synthetic data generation from reinforcement learning from systems like Omniverse, we are now able to work with just about every robotics companies now to start thinking about, start building general robotics. And so, you can see that there are just so many different directions that generative AI is going.

And so, we’re actually seeing the momentum of generative AI accelerating”.

4) the world builds about $1 trillion worth of data centers NOW !

Jensen Huang:

“(…) remember, the world is moving from general-purpose computing to accelerated computing. And the world builds about $1 trillion worth of data centers.

$1 trillion worth of data centers in a few years will be all accelerated computing. In the past, no GPUs are in data centers, just CPUs. In the future, every single data center will have GPUs”.

5) Blackwell is a game changer

“Blackwell is going to be a complete game changer for the industry. And Blackwell is going to carry into the following year. (…) remember that computing is going through two platform transitions at the same time. (…) which is general-purpose computing is shifting to accelerated computing, and human-engineered software is going to transition to generative AI or artificial intelligence-learned software”.

“The Blackwell vision took nearly five years and seven one-of-a-kind chips to realize, the Gray CPU, the Blackwell dual GPU, and a colos package, ConnectX DPU for East-West traffic, BlueField DPU for North-South and storage traffic, NVLink switch for all-to-all GPU communications, and Quantum and Spectrum-X for both InfiniBand and Ethernet can support the massive traffic of AI”.

6) NVLink (5th generation) is a game changer

Nvidia’s webpage: “Unlocking the full potential of exascale computing and trillion-parameter AI models hinges on swift, seamless communication between every GPU within a server cluster. The fifth generation of NVIDIA® NVLink® is a scale–up interconnect that unleashes accelerated performance for trillion- and multi-trillion parameter AI models”.

Jensen Huang:

“This is a very big deal with its all-to-all GPU switch is game-changing.

The Blackwell system lets us connect 144 GPUs in 72 GB200 packages into one NVLink domain, with an aggregate NVLink bandwidth of 259 terabytes per second in one rack. Just to put that in perspective, that’s about 10x higher than Hopper. 259 terabytes per second kind of makes sense because you need to boost the training of multitrillion-parameter models on trillions of tokens”.

Niniejszy materiał jest informacją reklamową. Ma charakter edukacyjno-informacyjny i stanowi wyraz własnych ocen, przemyśleń i opinii autora. Niniejszy materiał służy jedynie celom informacyjnym i nie stanowi oferty, w tym oferty w rozumieniu art. 66 oraz zaproszenia do zawarcia umowy w rozumieniu art. 71 ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (t.j. Dz. U. z 2020 r. poz. 1740, 2320), ani oferty publicznej w rozumieniu art. 3 ustawy z dnia 29 lipca 2005 r. o ofercie publicznej i warunkach wprowadzania instrumentów finansowych do zorganizowanego systemu obrotu oraz o spółkach publicznych (t.j. Dz. U. z 2022 r. poz. 2554, z 2023 r. poz. 825, 1723) czy też oferty publicznej w rozumieniu art 2 lit d) Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/1129 z dnia 14 czerwca 2017 r. w sprawie prospektu, który ma być publikowany w związku z ofertą publiczną papierów wartościowych lub dopuszczeniem ich do obrotu na rynku regulowanym oraz uchylenia dyrektywy 2003/71/WE (Dz. Urz. UE L 168 z 30.06.2017, str. 12); Niniejszy materiał nie stanowi także rekomendacji, zaproszenia, ani usług doradztwa. prawnego, podatkowego, finansowego lub inwestycyjnego, związanego z inwestowaniem w jakiekolwiek papiery wartościowe. Materiał ten nie może stanowić podstawy do podjęcia decyzji o dokonaniu jakiejkolwiek inwestycji w papiery wartościowe czy instrumenty finansowe. Informacje zamieszczone w materiale nie stanowią rekomendacji w rozumieniu przepisów Rozporządzenia Parlamentu Europejskiego i Rady (UE) NR 596/2014 z dnia 16 kwietnia 2014 r. w sprawie nadużyć na rynku (rozporządzenie w sprawie nadużyć na rynku) oraz uchylające dyrektywę 2003/6/ WE Parlamentu Europejskiego i Rady i dyrektywy Komisji 2003/124/WE, 2003/125/WE i 2004/72/ WE. (Dz. U UE L 173/1 z dnia 12.06.20114). NDM S.A., nie ponosi odpowiedzialności za prawdziwość, rzetelność i kompletność oraz aktualność danych i informacji zamieszczonych w niniejszej prezentacji. NDM S.A. nie ponosi również jakiejkolwiek odpowiedzialności za szkody wynikające z wykorzystania niniejszego materiału, informacji i danych w nim zawartych. Zawartość materiału została przygotowana na podstawie opracowań sporządzonych zgodnie z najlepszą wiedzą NDM S.A. oraz przy wykorzystaniu informacji i danych publicznie dostępnych, chyba, że wyraźnie wskazano inne źródło pochodzenia danych.

Autor: Jarosław Jamka

Overall, the most important for Nvidia’s results will be two things:

(1) Q2 2024 revenue and EPS. Wall Street expects Q2 revenue of $28.35 billion and EPS of $0.63 per share.

(2) and company’s guidance for Q3 2024. Wall Street expects Q3 EPS at $0.69 and Q3 revenue at $31.18 billion. For the full year, Nvidia is expected to guide EPS around $2.70, and revenue of $120.14 billion.

One way to assess potential GPU demand is to look at what other Mag7 companies have said on the subject during recent earnings calls.

Below are selected comments from recent earning calls.. (Meta, Microsoft, Alphabet, Tesla, Amazon) indicating potential demand for AI computing infrastructure. In the case of Apple, there was no direct reference to this.

Figure 1 shows how often AI was mentioned during the earnings calls.

Figure 2 shows Nvidia’s revenue and Wall Street expectations.

Meta:

Mark Zuckerberg: “The amount of compute needed to train Llama 4 will likely be almost 10x more than what we used to train Llama 3 — and future models will continue to grow beyond that. It’s hard to predict how this will trend multiple generations out into the future, but at this point I’d rather risk building capacity before it is needed, rather than too late, given the long lead times for spinning up new infra projects”.

Llama 3.1 was trained on 16,000 H100s, and Llama 4 is going to have 10x more, i.e. 160,000 GPUs. Chat GPT-4 used 25,000 GPUs. Grok 2 … 20,000 GPUs (and Grok 3 is going to use 100,000).

Susan Li, CFO: “We anticipate our full-year 2024 capital expenditures will be in the range of $37-40 billion, updated from our prior range of $35-40 billion. While we continue to refine our plans for next year, we currently expect significant capex growth in 2025 as we invest to support our AI research and our product development efforts”.

Microsoft:

AMY HOOD on CAPEX outlook: “To meet the growing demand signal for our AI and cloud products, we will scale our infrastructure investments with FY25 capital expenditures expected to be higher than FY24. As a reminder, these expenditures are dependent on demand signals and adoption of our services that will be managed thru the year”.

Over the last 4 quarters Capex at Microsoft has been growing by 70-80% YoY (was $19bln last quarter).

Alphabet:

Sundar Pichai, CEO, on AI capex: “the risk of under-investing is dramatically greater than the risk of over-investing for us here, even in scenarios where if it turns out that we are over-investing, we clearly — these are infrastructure which are widely useful for us. (…) But I think not investing to be at the front here, I think, definitely has much more significant downside”.

Tesla:

Elon Musk about Nvidia chips:

“ (…) what we are seeing is that the demand for NVIDIA hardware is so high that it’s often difficult to get the GPUs. And there just seems this — I guess I’m quite concerned about actually being able to get steady out NVIDIA GPUs and when we want them”.

Amazon:

Andrew R. Jassy, CEO: “We remain very bullish on the medium to long-term impact of AI in every business we know and can imagine. The progress may not be one straight line for companies. Generative AI, especially, is quite iterative and companies have to build muscle around the best way to solve actual customer problems. But we see so much potential to change customer experiences. (…) We are investing a lot across the board in AI, and we’ll keep doing so as we like what we’re seeing and what we see ahead of us”.

Brian T. Olsavsky, CFO: “For the first half of the year capex was $30.5 billion. Looking ahead to the rest of 2024, we expect capital investments to be higher in the second half of the year. The majority of the spend will be to support the growing need for AWS infrastructure as we continue to see strong demand in both generative AI and our non-generative AI workloads”.

Niniejszy materiał jest informacją reklamową. Ma charakter edukacyjno-informacyjny i stanowi wyraz własnych ocen, przemyśleń i opinii autora. Niniejszy materiał służy jedynie celom informacyjnym i nie stanowi oferty, w tym oferty w rozumieniu art. 66 oraz zaproszenia do zawarcia umowy w rozumieniu art. 71 ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (t.j. Dz. U. z 2020 r. poz. 1740, 2320), ani oferty publicznej w rozumieniu art. 3 ustawy z dnia 29 lipca 2005 r. o ofercie publicznej i warunkach wprowadzania instrumentów finansowych do zorganizowanego systemu obrotu oraz o spółkach publicznych (t.j. Dz. U. z 2022 r. poz. 2554, z 2023 r. poz. 825, 1723) czy też oferty publicznej w rozumieniu art 2 lit d) Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/1129 z dnia 14 czerwca 2017 r. w sprawie prospektu, który ma być publikowany w związku z ofertą publiczną papierów wartościowych lub dopuszczeniem ich do obrotu na rynku regulowanym oraz uchylenia dyrektywy 2003/71/WE (Dz. Urz. UE L 168 z 30.06.2017, str. 12); Niniejszy materiał nie stanowi także rekomendacji, zaproszenia, ani usług doradztwa. prawnego, podatkowego, finansowego lub inwestycyjnego, związanego z inwestowaniem w jakiekolwiek papiery wartościowe. Materiał ten nie może stanowić podstawy do podjęcia decyzji o dokonaniu jakiejkolwiek inwestycji w papiery wartościowe czy instrumenty finansowe. Informacje zamieszczone w materiale nie stanowią rekomendacji w rozumieniu przepisów Rozporządzenia Parlamentu Europejskiego i Rady (UE) NR 596/2014 z dnia 16 kwietnia 2014 r. w sprawie nadużyć na rynku (rozporządzenie w sprawie nadużyć na rynku) oraz uchylające dyrektywę 2003/6/ WE Parlamentu Europejskiego i Rady i dyrektywy Komisji 2003/124/WE, 2003/125/WE i 2004/72/ WE. (Dz. U UE L 173/1 z dnia 12.06.20114). NDM S.A., nie ponosi odpowiedzialności za prawdziwość, rzetelność i kompletność oraz aktualność danych i informacji zamieszczonych w niniejszej prezentacji. NDM S.A. nie ponosi również jakiejkolwiek odpowiedzialności za szkody wynikające z wykorzystania niniejszego materiału, informacji i danych w nim zawartych. Zawartość materiału została przygotowana na podstawie opracowań sporządzonych zgodnie z najlepszą wiedzą NDM S.A. oraz przy wykorzystaniu informacji i danych publicznie dostępnych, chyba, że wyraźnie wskazano inne źródło pochodzenia danych.