> W połowie maja Sam Altman (szef #OpenAI) przekonywał komisję Senatu USA, że AI jest potencjalnie niebezpieczna i wymaga silnych regulacji. W tym samym czasie firma po cichu lobbowała w UE, by jej produkty nie były uwzględnione w kategorii wysokiego ryzyka w #AIAct.
@rysiek Nicely written. I know big corporations lobby for laws in their best interests, so what you're saying makes sense.
I would like to see specific quotes of the proposed regulations or lobby verbiage that support what you're saying. Maybe they're there, but I literally lost them in the Google Translation.
And yes, there is sweet irony that I had to use Google Translate, made by one of the companies you are critiquing, to read your article. We won't tell Google, right?
@christo no, it's about the fundamentals, biases, harms, and all that. Where they come from, why LLMs are so susceptible to them, why OpenAI et al is unlikely to do anything about them.
Basically, that was my reaction to the first signs of AI hype in Polish media. I wanted to write the mother of all "LLMs are highly problematic on many levels and there are no easy fixes" explainers for non-techies.
As happy as I am with that piece, I'm sure there are better resources in English. 😄
@rysiek Live your self-awareness and criticism. Tied with curiosity, and you'te unstoppable.
If you do write an article on on-prem or mobile AI (which is something I haven't seen in English), please tag me.
People and companies aren't taking it seriously that when they copy and paste code or text into ChatGPT their text is being leaked into the model for training and access by others. On-prem and local solutions should mitigate that risk.
@rysiek Oh, and here Google is going against best practices in AI by avoiding transparency, traceability, and human oversight. To do that, they need to not be in the high risk category, per the Time article you posted.
'"high risk,” a designation that would subject them to stringent legal requirements including transparency, traceability, and human oversight.'
> Tydzień po zeznaniach w amerykańskim Senacie, szef OpenAI przekonywał, że „oddanie ChatGPT4 na wczesnym etapie w ręce społeczeństwa ma sens, bo pomaga zauważyć błędy, zanim urosną w siłę i staną się niebezpieczne.”
> A niecały tydzień później podpisał oświadczenie straszące „zagładą spowodowaną AI”.
> To wszystko może się wydawać dziwne, dopóki nie uświadomimy sobie, że szef OpenAI nie jest jakimś geniuszem. Jest po prostu sprzedawcą. Kolejnym „Januszem tech-biznesu”.
> #OpenAI, Google i Microsoft zapędziły się w pewnym sensie w kozi róg. Próbując — poprzez promowanie i poleganie na gigantycznych modelach językowych — za jednym zamachem wyciąć konkurencję, a jednocześnie przywiązać osoby i firmy korzystające z tych narzędzi do siebie, nie doceniły tego, jak skuteczne i użyteczne mogą być modele znacznie mniejsze.
> Starają się teraz tak sterować debatą publiczną i pracami nad regulacjami, by utrudnić tworzenie rozwiązań modelu otwartego oprogramowania.
> Big Techy głośno domagają się regulacji, które po cichu starają się kształtować tak, by mogły im służyć za tarczę przeciwko konkurencji ze strony modeli mniejszych, niezależnie rozwijanych, mniej szkodliwych i mniej niebezpiecznych, otwierających kompletnie nowe pola wyspecjalizowanych zastosowań.
> Modele uczenia maszynowego to fascynująca, niezwykle obiecująca technologia. Aby jednak osiągnęła swój pełny potencjał, nie może zostać przejęta i zamknięta w grodzonych ogródkach.
Add comment