Komentarze dzienne
cze
Komentarz poranny 28.06.2024
... Czytaj więcejKomentarz poranny 27.06.2024
Czytaj więcejcze
cze
Past and Future of AI
Autor: Jarosław Jamka
This is a short history of AI (see graphic by Goldman). H/T to James Wong, who posted it on LinkedIn.
The biggest progress is the public debut of Chat GPT-3.5 in November 2022, followed by the quick (after only 4 months) debut of a much better version of Chat GPT-4.0.
An even better version of Chat GPT-4o debuts in May 2024.
But what’s next?
From the hardware side (computing infrastructure in general), Nividia will not disappoint… the newest and fastest Blackwell chip is already in production, and the company is already working on even faster ones: Blackwell Ultra (will be available in 2025), Rubin (2026) and Rubin Ultra (2027) .
From the „software” side… we have more and better versions of LLM models ahead of us.
Leopold Aschenbrenner, ex-member of OpenAI’s Superalignment team, now founder of an investment firm focused on artificial general intelligence (AGI) — has just posted a massive 165-page long AI essay. He asserts that we are about to see the linear trend of AI improvements towards AGI relatively soon.
If true… the current boom in AI shares is not even a „baby bubble” – we are at the very beginning…
Take a look at Leopold’s chart (attached below) where we may be in 2028… („Base Scaleup of Effective Compute”).
Leopold Aschenbrenner:
„I make the following claim: it is strikingly plausible that by 2027, models will be able to do the work of an AI researcher/engineer. That doesn’t require believing in sci-fi; it just requires believing in straight lines on a graph”.
Leopold Aschenbrenner:
„GPT-4’s capabilities came as a shock to many: an AI system that could write code and essays, could reason through difficult math problems, and ace college exams. A few years ago, most thought these were impenetrable walls.
But GPT-4 was merely the continuation of a decade of breakneck progress in deep learning. A decade earlier, models could barely identify simple images of cats and dogs; four years earlier, GPT-2 could barely string together semi-plausible sentences. Now we are rapidly saturating all the benchmarks we can come up with. And yet this dramatic progress has merely been the result of consistent trends in scaling up deep learning”.
And what is the biggest obstacle? Lack of (further) data needed to train LLM models on.. even all the data available on the Internet is not enough..
Niniejszy materiał jest informacją reklamową. Ma charakter edukacyjno-informacyjny i stanowi wyraz własnych ocen, przemyśleń i opinii autora. Niniejszy materiał służy jedynie celom informacyjnym i nie stanowi oferty, w tym oferty w rozumieniu art. 66 oraz zaproszenia do zawarcia umowy w rozumieniu art. 71 ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (t.j. Dz. U. z 2020 r. poz. 1740, 2320), ani oferty publicznej w rozumieniu art. 3 ustawy z dnia 29 lipca 2005 r. o ofercie publicznej i warunkach wprowadzania instrumentów finansowych do zorganizowanego systemu obrotu oraz o spółkach publicznych (t.j. Dz. U. z 2022 r. poz. 2554, z 2023 r. poz. 825, 1723) czy też oferty publicznej w rozumieniu art 2 lit d) Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/1129 z dnia 14 czerwca 2017 r. w sprawie prospektu, który ma być publikowany w związku z ofertą publiczną papierów wartościowych lub dopuszczeniem ich do obrotu na rynku regulowanym oraz uchylenia dyrektywy 2003/71/WE (Dz. Urz. UE L 168 z 30.06.2017, str. 12); Niniejszy materiał nie stanowi także rekomendacji, zaproszenia, ani usług doradztwa. prawnego, podatkowego, finansowego lub inwestycyjnego, związanego z inwestowaniem w jakiekolwiek papiery wartościowe. Materiał ten nie może stanowić podstawy do podjęcia decyzji o dokonaniu jakiejkolwiek inwestycji w papiery wartościowe czy instrumenty finansowe. Informacje zamieszczone w materiale nie stanowią rekomendacji w rozumieniu przepisów Rozporządzenia Parlamentu Europejskiego i Rady (UE) NR 596/2014 z dnia 16 kwietnia 2014 r. w sprawie nadużyć na rynku (rozporządzenie w sprawie nadużyć na rynku) oraz uchylające dyrektywę 2003/6/ WE Parlamentu Europejskiego i Rady i dyrektywy Komisji 2003/124/WE, 2003/125/WE i 2004/72/ WE. (Dz. U UE L 173/1 z dnia 12.06.20114). NDM S.A., nie ponosi odpowiedzialności za prawdziwość, rzetelność i kompletność oraz aktualność danych i informacji zamieszczonych w niniejszej prezentacji. NDM S.A. nie ponosi również jakiejkolwiek odpowiedzialności za szkody wynikające z wykorzystania niniejszego materiału, informacji i danych w nim zawartych. Zawartość materiału została przygotowana na podstawie opracowań sporządzonych zgodnie z najlepszą wiedzą NDM S.A. oraz przy wykorzystaniu informacji i danych publicznie dostępnych, chyba, że wyraźnie wskazano inne źródło pochodzenia danych.
... Czytaj więcejKomentarz poranny 26.06.2024
Czytaj więcejcze
cze
Komentarz poranny 25.06.2024
... Czytaj więcejNvidia’s super chips: Blackwell, Blackwell Ultra, Rubin & Rubin Ultra
Autor: Jarosław Jamka
The newest and fastest Blackwell super chip has not yet gone on sale for good, and Nvidia is already working on Blackwell’s successor, called Rubin.
Jensen Huang: „We have code names in our company and we try to keep them very secret. Oftentimes, most of the employees don’t even know, but our next generation platform is called Rubin, the Rubin platform.”
Nvidia shortened the product cycle to one year: Blackwell in 2024, Blackwell Ultra in 2025, Rubin in 2026 and Rubin Ultra in 2027. This will enable even faster development of AI and the creation of even larger data centers.
Jensen Huang: „Our company has a one-year rhythm. Our basic philosophy is very simple: build the entire data center scale, disaggregate and sell to you parts on a one-year rhythm, and push everything to technology limits”.
Jensen Huang: „The days of millions of GPU data centers are coming, and the reason for that is very simple. Of course, we want to train much larger models, but very importantly in the future, almost every interaction you have with the internet or with a computer will likely have a generative AI running in the cloud somewhere, and that generative AI is working with you, interacting with you, generating videos or images or text, or maybe a digital human. And so you’re interacting with your computer almost all the time. And there’s always a generative AI connected to that. Some of it is on prem, some of it is on your device, and a lot of it could be in the cloud. These generative AIs will also do a lot of reasoning capability instead of just one shot answers. They might iterate on answers. So that it’d improve the quality of the answer before they give it to you. And so the amount of generation we’re going to do in the future is going to be extraordinary”.
Figure 1 shows a comparison of the Hooper, Blackwell and Rubin platforms.
Jensen Huang: „So we have the Rubin platform, and one year later we have the Rubin Ultra platform. All of these chips that I’m showing you here are all in full development, 100% of them. And the rhythm is one year at the limits of technology. All are architecturally compatible. So this is basically what NVIDIA is building”.
Figure 2 shows the details of the Blackwell platform.
Meanwhile, Nvidia is currently down 11.70% from the June 18 all-time high – see Figure 3.
Niniejszy materiał jest informacją reklamową. Ma charakter edukacyjno-informacyjny i stanowi wyraz własnych ocen, przemyśleń i opinii autora. Niniejszy materiał służy jedynie celom informacyjnym i nie stanowi oferty, w tym oferty w rozumieniu art. 66 oraz zaproszenia do zawarcia umowy w rozumieniu art. 71 ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (t.j. Dz. U. z 2020 r. poz. 1740, 2320), ani oferty publicznej w rozumieniu art. 3 ustawy z dnia 29 lipca 2005 r. o ofercie publicznej i warunkach wprowadzania instrumentów finansowych do zorganizowanego systemu obrotu oraz o spółkach publicznych (t.j. Dz. U. z 2022 r. poz. 2554, z 2023 r. poz. 825, 1723) czy też oferty publicznej w rozumieniu art 2 lit d) Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/1129 z dnia 14 czerwca 2017 r. w sprawie prospektu, który ma być publikowany w związku z ofertą publiczną papierów wartościowych lub dopuszczeniem ich do obrotu na rynku regulowanym oraz uchylenia dyrektywy 2003/71/WE (Dz. Urz. UE L 168 z 30.06.2017, str. 12); Niniejszy materiał nie stanowi także rekomendacji, zaproszenia, ani usług doradztwa. prawnego, podatkowego, finansowego lub inwestycyjnego, związanego z inwestowaniem w jakiekolwiek papiery wartościowe. Materiał ten nie może stanowić podstawy do podjęcia decyzji o dokonaniu jakiejkolwiek inwestycji w papiery wartościowe czy instrumenty finansowe. Informacje zamieszczone w materiale nie stanowią rekomendacji w rozumieniu przepisów Rozporządzenia Parlamentu Europejskiego i Rady (UE) NR 596/2014 z dnia 16 kwietnia 2014 r. w sprawie nadużyć na rynku (rozporządzenie w sprawie nadużyć na rynku) oraz uchylające dyrektywę 2003/6/ WE Parlamentu Europejskiego i Rady i dyrektywy Komisji 2003/124/WE, 2003/125/WE i 2004/72/ WE. (Dz. U UE L 173/1 z dnia 12.06.20114). NDM S.A., nie ponosi odpowiedzialności za prawdziwość, rzetelność i kompletność oraz aktualność danych i informacji zamieszczonych w niniejszej prezentacji. NDM S.A. nie ponosi również jakiejkolwiek odpowiedzialności za szkody wynikające z wykorzystania niniejszego materiału, informacji i danych w nim zawartych. Zawartość materiału została przygotowana na podstawie opracowań sporządzonych zgodnie z najlepszą wiedzą NDM S.A. oraz przy wykorzystaniu informacji i danych publicznie dostępnych, chyba, że wyraźnie wskazano inne źródło pochodzenia danych.
Czytaj więcejcze
cze
Komentarz poranny 24.06.2024
... Czytaj więcejCBO: taxes flat, spending up!
Autor: Jarosław Jamka
On June 18, we got the latest CBO (Congressional Budget Office) update to the Budget and Economic Outlook for the years 2024 to 2034.
Now CBO forecasts US fiscal 2024 federal deficit at USD 1.915tln which is up USD 408bln from the February forecast (USD 1.507tln).
The main reasons for the deficit increase by 27.1% are: foreign military aid, student loans, the Federal Deposit Insurance Corporation’s slower recovery of payments made in response to bank failures, higher outlays for Medicaid and other increases in discretionary spending.
Figure 1 shows revenues, outlays and deficits as % of nominal GDP, including CBO’s latest projections.
Figure 2 shows the change in CBO’s forecast for renewues and outlays. In 2024-34, total outlays are up to USD 2,597tln. Total renenues are up by USD 121 billion. It’s obvious… increasing taxes is not popular… unlike increasing spending… makes sense!
As a result, the deficit increases by USD 2,475tn in the years 2024-34. Figure 3 shows this as a % of nominal GDP.
Such an increase in spending is not good for future inflation, ceteris paribus. We are moving from the norm of 20% of GDP spending (2014-2019) to a new level of 24% in 2025-2035. See Figure 4 (see blue circle with dashed line).
So you just have to get used to the new normal. But there are two main risks: (i) even higher spending in the next CBO forecasts, and (ii) even higher spending in the next recession.
CBO doesn’t predict a recession in the next 10 years, but we might… see Figure 5.
Niniejszy materiał jest informacją reklamową. Ma charakter edukacyjno-informacyjny i stanowi wyraz własnych ocen, przemyśleń i opinii autora. Niniejszy materiał służy jedynie celom informacyjnym i nie stanowi oferty, w tym oferty w rozumieniu art. 66 oraz zaproszenia do zawarcia umowy w rozumieniu art. 71 ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (t.j. Dz. U. z 2020 r. poz. 1740, 2320), ani oferty publicznej w rozumieniu art. 3 ustawy z dnia 29 lipca 2005 r. o ofercie publicznej i warunkach wprowadzania instrumentów finansowych do zorganizowanego systemu obrotu oraz o spółkach publicznych (t.j. Dz. U. z 2022 r. poz. 2554, z 2023 r. poz. 825, 1723) czy też oferty publicznej w rozumieniu art 2 lit d) Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/1129 z dnia 14 czerwca 2017 r. w sprawie prospektu, który ma być publikowany w związku z ofertą publiczną papierów wartościowych lub dopuszczeniem ich do obrotu na rynku regulowanym oraz uchylenia dyrektywy 2003/71/WE (Dz. Urz. UE L 168 z 30.06.2017, str. 12); Niniejszy materiał nie stanowi także rekomendacji, zaproszenia, ani usług doradztwa. prawnego, podatkowego, finansowego lub inwestycyjnego, związanego z inwestowaniem w jakiekolwiek papiery wartościowe. Materiał ten nie może stanowić podstawy do podjęcia decyzji o dokonaniu jakiejkolwiek inwestycji w papiery wartościowe czy instrumenty finansowe. Informacje zamieszczone w materiale nie stanowią rekomendacji w rozumieniu przepisów Rozporządzenia Parlamentu Europejskiego i Rady (UE) NR 596/2014 z dnia 16 kwietnia 2014 r. w sprawie nadużyć na rynku (rozporządzenie w sprawie nadużyć na rynku) oraz uchylające dyrektywę 2003/6/ WE Parlamentu Europejskiego i Rady i dyrektywy Komisji 2003/124/WE, 2003/125/WE i 2004/72/ WE. (Dz. U UE L 173/1 z dnia 12.06.20114). NDM S.A., nie ponosi odpowiedzialności za prawdziwość, rzetelność i kompletność oraz aktualność danych i informacji zamieszczonych w niniejszej prezentacji. NDM S.A. nie ponosi również jakiejkolwiek odpowiedzialności za szkody wynikające z wykorzystania niniejszego materiału, informacji i danych w nim zawartych. Zawartość materiału została przygotowana na podstawie opracowań sporządzonych zgodnie z najlepszą wiedzą NDM S.A. oraz przy wykorzystaniu informacji i danych publicznie dostępnych, chyba, że wyraźnie wskazano inne źródło pochodzenia danych.
Czytaj więcejcze
cze
Komentarz poranny 21.06.2024
... Czytaj więcejKomentarz poranny 20.06.2024
Czytaj więcejcze