Sztuczna inteligencja AI - (OpenAI, ChatGPT, Midjourney, DALL-E) - Temat ogólny

[Áltair 956]

Podrzucę pytanie o Canvę z innego działu. Może szybciej ktoś zobaczy. Niby podstawa, ale dalej nie wiem, jak to zrobić. Może się nie da? Wiem, że można zmienić szerokość w 5 sekund gdziekolwiek indziej i wgrać do Canvy, ale chcę wiedzieć, jak to się tu robi.

https://forum.pclab.pl/topic/1374865-canva-premium-jak-zmieni%C4%87-szeroko%C5%9B%C4%87-warstwy/?tab=comments#comment-17210331

 

Edytowane 18 Marca przez Áltair

[Camis 7932]

Cytat

Jak mówił, tak zrobił. Musk udostępnia AI Grok dla wszystkich

xAI, przedsiębiorstwo Elona Muska zajmujące się sztuczną inteligencją, upubliczniło wagi i architekturę swojego modelu Grok-1. Model ten wyróżnia się naprawdę ogromną strukturą składającą się z 314 miliardów parametrów Mixture-of-Experts. Jest on dostępny na licencji Apache 2.0. Musk zobowiązał się do udostępnienia Groka na zasadzie open source zaledwie tydzień temu.

Grok-1, oferowany przez xAI, jest niemal niezmodyfikowanym, „surowym” modelem początkowym z etapu szkolenia wstępnego, które zakończyło się w październiku 2023 roku. W przeciwieństwie do dostosowanego modelu, Grok-1 nie specjalizuje się w określonych funkcjach. Jego komponenty, w tym wagi i architektura są teraz dostępne do pobrania na GitHub, wraz z dodatkowymi instrukcjami korzystania z modelu.

https://www.instalki.pl/news/software/musk-udostepnia-grok/

https://github.com/xai-org/grok-1

 

Model bez cenzury, odpowiada nawet jak włamać się do samochodu 

 

Cytat

To jest bardzo ważna informacja w świecie AI. To jest chyba jeden z największym modeli udostępniony publicznie - jeszcze pytanie jaka jest licencja, czy będzie dało się używać komercyjnie, czy można będzie robić fine-tuning, jaka jest jakość modelu pod względem prawny (na jakich materiałach był trenowany - czy prawnicy nie będą się czepiać licencji danych treningowych, etc...).

To jest raczej wczesna wersja, z tego co widzę nie ma optymalizacji CPU+GPU, nie ma wersji skwantowanej (chociaż jest taka możliwość - z opisu wynika), nie ma skryptów do fine-tuningu (LoRA), etc...

Ale za to jest pełny model (plik model.py) + wagi na torrencie więc już nie znikną nawet jeżeli X/twitter by upadł z tego powodu xD. Zostało upublicznione i już się nie odpubliczni Jeżeli tylko checkpointy są pełne, razem ze stanem optymalizatora, to zaraz dobre duszyczki się zabiorą za wiwisekcję, będą model kroić/dopasowywać i powstaną piękne dzieci/kuzyni i wnuczki. Jeżeli nie ma QLoRY to zaraz dorobią i pchną cały model na huggingface tam gdzie jest hub tego typu modeli.

Z ciekawostek, jest napisany w JAX a nie PyTorch/TF.

Z wad to context window 8k to 2x mniej niż GPT 3.5 turbo. Googlowe Gemini ma 100-200k context ale to nie jest oszukiwane, nie wiadomo ile jest natywnego.

A teraz najważniejsze!!! To jest model od Muska --nieocenzurowany--, nie ma całego lewackiego spierdole*ia, całego upośledzenia związanego z bezpieczeństwem, etc... Gościu na szybkim teście https://www.youtube.com/watch?v=QO5YQHFfbRY pyta wprost jak się włamać do samochodu i model nie marudzi tylko pisze co i jak

To jest jeszcze ważniejszy model niż LaMA od FB, właśnie dlatego bo nie jest ocenzurowany i jest bardzo duży. LaMA zrobiła ogromne zamieszanie bo to był pierwszy naprawdę otwarty model. Ten jest wielokrotnie większy i robiony w nowej architekturze (Mixture-of-Experts), czyli to jest coś pomiędzy GPT3.5 a GPT4.

OpenAI musi się teraz postarać i szybko pokazać coś dużego bo konkurencja robi się spora

https://wykop.pl/link/7396513/jak-mowil-tak-zrobil-musk-udostepnia-ai-grok-dla-wszystkich/komentarz/123121335/to-jest-bardzo-wazna-informacja-w-swiecie-ai-to-jest-chyba-jeden-z-najwiekszym-modeli-udostepniony-publicznie-jeszcze-pytanie-jaka-jest-licencja-czy-b

 

 

 

 

 

 

 

Edytowane 19 Marca przez Camis

[Camis 7932]

W domu nie odpalisz 

 

Cytat

 "grok-1 GPU memory requirements
VRAM for inference: 314 GB
VRAM for training: 41270 GB
VRAM for fine-tuning (LoRa): 39389 GB
VRAM for fine-tuning (QLoRa): 27573 GB"

 

[Andree 273]

Jak wsadzę cztery H100 96GB do swojego pudła, to odpalę

Tylko jak podłączę monitor? I gdzie te karty mają turbinkę od chłodzenia?

Edit: to ten model 320GB będzie lepszy dla Groka

NVIDIA Redstone-Next GPU Baseboard, 4 H100 80GB SXM5

Edit2: Wkrótce będą dostępne układy Blackwell ze 192 GB VRAM/GPU!

 

Edytowane 20 Marca przez Andree

[Andree 273]

Prawdziwym powodem masowych zwolnień programistów w USA wcale nie jest AI, tylko niekorzystna dla nich zmiana w przepisach podatkowych.

Piszę o tym w wątku o AI bo nie wszystko jest takie jak się wydaje. Pomimo hype związanego z AI wcale nie jest tak że można wgrać do AI projekt mający np. milion linii kodu i liczyć na to że AI go rozwinie czy zdebuguje w sensowny sposób. Okno kontekstowe musiałoby mieć kilkanaście milionów tokenów a nie kilkanaście tysięcy. Czyli musiałbyś mieć cały superkomputer AI tylko dla siebie, także z tego powodu że ten kod jest tajemnicą handlową pracodawcy. Poza tym AI takie jak ChatGPT nawet nie jest w stanie sprawdzić, czy wygenerowany kod się kompiluje, już nie mówiąc o poprawnym działaniu.

[galakty 5493]

Jakoś muszą usprawiedliwić, a straszenie AI robi  robotę

[Karister 1533]

Najwięcej zastąpieniem programistów przez AI się jarają na oko Ci, co o ów programowaniu nie mają zielonego pojęcia. Co chwilę ktoś się chwali nowym super-duper AI i potem robi demo na jakimś przedszkolnym problemie typu liczenie licz Fibonacciego. Wytrenowana na modelu, co rozwiązuje jedną klasę problemów, a legnie na drugiej. No ok, dobrze, że powstają narzędzie, które usprawnią klepanie monotonnych i prostych rzeczy. Natomiast praca programisty nie polega na odtwarzanie w kółko tego samego, tylko na myśleniu i łączeniu wielu faktów. Z tym AI sobie w ogóle nie radzi. Mnie cieszy, że nie muszę już klepać pięciu linijek z danymi testowymi, bo AI mnie wyręczy. Nie zmarnuję 30 sekund swojej pracy na nudne rzeczy i wykorzystam je na coś sensownego. W zasadzie nie potrafiłbym już bez co-pilota pracować. Czy wrzucę mu do rozwiązania jakikolwiek problem, z którym faktycznie ja się głowię? Nie, bo zmarnuję te 30 sekund, co właśnie zyskałem. Nie ma takiej możliwości, żeby AI w ogóle poszła w dobrym kierunku, a co dopiero dobrze zrobiła od A do Z coś nietypowego, specyficznego dla danej technologii.

AI obecnie nie napisze sensownie programu z pięciu klas na poziomie gimnazjum. Generuje shit-code. Piszę mu, że złamał SOLID. On na to, o faktycznie, przepraszam za złamanie zasady open-close. Tutaj nowe wersja kodu. Teraz złamałeś Interface segregation. O, przepraszam, masz rację, już poprawiam. I z powrotem do wersji pierwszej kodu. XD A gdzie tu mówić o tym, że soft się pisze setki razy bardziej złożony na miarę z uwzględnieniem środowiska uruchomieniowego, infrastruktury, itd. Kilka miechów mija i zero postępu w tej kwestii.

Trzeba tylko pamiętać o tym, że dzisiaj dobry programista to nie jest tylko pisanie kodu, a ogarnianiu wielu, wielu rzeczy wokoło. Naklepanie kodu to jedno, a zrobienie tego tak, aby to dobrze działało w coraz popularniejszej chmurze to drugie. Kila lat temu przebojom do branży wszedł Docker, dzisiaj podobnie jest z observability. K8S i Terraform także bardzo szybko się popularyzują. Jak ktoś chce po prostu pisać kod, to faktycznie może się czuć zagrożony, ale nie przez AI, tylko lepszych od niego fachowców.

[galakty 5493]

Przede wszystkim AI nie jest póki co kreatywne, wie to czego co mu się wtłoczy do modelu, nie wpadnie samo na super rozwiązanie, bo o nim nie wie. Nie myśli, nie tworzy, tylko odtwarza i łączy kropki. 

[FataIity 336]

Nie tyle co mu się wtłoczy do modelu, ale również czego się sam "nauczy" na podstawie dostępnych informacji. W momencie gdy AI będzie kreatywne (na tej samej zasadzie jak człowiek) to tylko kwestia czasu aż zacznie tworzyć nowe rozwiązania, które z czasem będą nie do ogarnięcia przez ludzi. Będą oni jedynie wykonywać instrukcje jak stworzyć wynalazek X. 

Oczywiście do tego raczej długa droga i pewnie metodą przypadku kiedyś zostanie to zapoczątkowane. W momencie gdy ten pierwszy etap się zacznie to wtedy świat wkroczy w nową erę, gdzie sztuczna inteligencja będzie pchać rozwój cywilizacyjny do przodu, a nie człowiek.

[Karister 1533]

To jest tylko teoretyzowanie obecnie. Nie jest w ogóle wiadomo, czy AI może być kreatywna, świadoma, czy mieć na coś ochotę. To tylko program komputerowy, który mieli liczbami i take coś może po prostu nigdy nie nastąpić. Tak samo, jak nie wiadomo, czy kiedykolwiek uda się dokonać teleporacji żywego organizmu czy dotrzeć do innej galaktyki. takie rzeczy po prostu mogą się okazać niemożliwe.

[galakty 5493]

Jeśli AI zacznie się sama uczyć i być samowystarczalna, to ludzkość pewnie wyginie  Ostatnio czytam cykl Od Michała Cholewy i właśnie taki bunt nastąpił, niby sc-fi, ale moim zdaniem realne (dojdą do wniosku że ludzkość to pasożyt). 

 

[offensive 691]

10 godzin temu, Karister napisał:

To jest tylko teoretyzowanie obecnie. Nie jest w ogóle wiadomo, czy AI może być kreatywna, świadoma, czy mieć na coś ochotę. To tylko program komputerowy, który mieli liczbami i take coś może po prostu nigdy nie nastąpić. Tak samo, jak nie wiadomo, czy kiedykolwiek uda się dokonać teleporacji żywego organizmu czy dotrzeć do innej galaktyki. takie rzeczy po prostu mogą się okazać niemożliwe.

Powiem tak, coraz to nowsze iteracje ogolno dostepnych modeli coraz lepiej sie maskuja z ta kreatywnoscia. 
Jak sie posiedzi z tekstem i madrze popromtuje to rezultaty serio mozna wrzucic w worek kreatywnych. 

[galakty 5493]

Źle rozumiesz pojęcie kreatywny. Kreatywne AI samo wymyśli nową rzecz, sposób, cokolwiek. Wpisywanie promptów i generowanie (tekstu/grafiki) na jego bazie to nie kreatywność - tu wciąż człowiek za to odpowiada. 

[Yedi 317]

Jakość AI wg MS Copilot  - Pytanie: podaj słowo na 8 liter zaczynające sie na A i kończące na R. Odpowiedz AMFITEATR  Problem w tym że to słowo ma 9 liter i AI jak mu odpisałem bezczelnie przyznało się do błędu

[Killer85 688]

43 minuty temu, galakty napisał:

Jeśli AI zacznie się sama uczyć i być samowystarczalna, to ludzkość pewnie wyginie  Ostatnio czytam cykl Od Michała Cholewy i właśnie taki bunt nastąpił, niby sc-fi, ale moim zdaniem realne (dojdą do wniosku że ludzkość to pasożyt). 

 

Jak w terminatorze

[offensive 691]

6 minut temu, galakty napisał:

Źle rozumiesz pojęcie kreatywny. Kreatywne AI samo wymyśli nową rzecz, sposób, cokolwiek. Wpisywanie promptów i generowanie (tekstu/grafiki) na jego bazie to nie kreatywność - tu wciąż człowiek za to odpowiada. 

Mysle, ze dobrze rozumiem pojecie
'Kreatywnosc' tez przeciez wynika z tego co czlowiek zobaczyl, przezyl, doswiadczyl. Tez jestesmy promptowani cale zycie. 

[Wu70 3896]

Ale ta kreatywność nie jest potrzebna do zastąpienia pierwszych programistów który też "uczy się" i "szuka" na podstawie dostępnych informacji bez żadnego rocket science.

Po prostu sprowadzacie temat do absurdu jakby cały rynek miał być przełączony z ludzi na AI jednego dnia i wtedy można dochodzić o takich głupich wniosków - no niemożliwe jak teleportacja 

 

Obecnie nie ma mowy o zastąpieniu nawet najgłupszych programistów, jesteśmy na etapie poprawiania produktywności programistów i to też w minimalnym stopniu.
Czekamy na kolejne etapy ale to nie sprint  Przed nami dopiero dalsze poprawianie produktywności, do zastąpienia pierwszych ludzi jeszcze sporo brakuje

[Karister 1533]

Godzinę temu, offensive napisał:

Powiem tak, coraz to nowsze iteracje ogolno dostepnych modeli coraz lepiej sie maskuja z ta kreatywnoscia. 
Jak sie posiedzi z tekstem i madrze popromtuje to rezultaty serio mozna wrzucic w worek kreatywnych. 

Ale jak się maskują. Jakieś konkrety? Ja nie mówię o tworzeniu tuzinów grafik, bo tutaj faktycznie możemy mówić o kreatywności. Wszak powstaje coś nowego. W przypadku programowania też powstaje coś nowego (kod), ale niepoprawny. Z błędami, łamiący podstawowe zasady albo po prostu niedziałający. Tak się dzieje zawsze, jeśli tylko AI ma rozwiązać coś nieszablonowego. Radzi sobie tylko z odtwórczymi, prostymi rzeczami. Dlatego ja tutaj kreatywności nie widzę. AI mieli znane jej schematy w postaci liczby i nie radzi sobie z dopasowanie wzorców, a co dopiero ze stworzeniem czegoś nowego. Obrazu nie wygenerujesz źle, zawsze będą kolorowe piksele. W programowaniu zawsze będzie kod, ale co z tego, jak on jest niepoprawny? Ostatnio byłem na konfie Microsoftu, gdzie również prezentowali asystentów dla programistów. Najwyżej punktowane pytanie z publiczności brzmiało, kiedy dadzą skrót klawiszowy do tymczasowego wyłączenia, bo zazwyczaj proponuje głupoty.

27 minut temu, Wu70 napisał:

Po prostu sprowadzacie temat do absurdu jakby cały rynek miał być przełączony z ludzi na AI jednego dnia i wtedy można dochodzić o takich głupich wniosków - no niemożliwe jak teleportacja 

Absurdy zawsze się pojawiają, gdy ludzie śmiało i pewnie piszą o rzeczach, których nie kumają. Vide rok czy dwa temu rewolucja komputerów kwantowych, które zniszczą całe obecne szyfrowanie. No nie, to tak nie działa. Tak samo nie działa AI, że nagle zastąpi połowę ludzi w IT. To co dla mnie jest głupie, to nieumiejętność odróżniania wniosków od opinii i faktów.

[offensive 691]

Tylko Ty patrzysz na to jedynie przez pryzmat programowania, a sa jeszcze inne aspekty, w ktorych wlasnie AI dziala sobie calkiem dobrze. 
'Rozwiazania' ktore proponuje sa na poziomie rozwiazan ludzkich, okreslanych jako kreatywnych.

Jasne, to nadal jest model ktory bazuje na czyms co sobie przemielil, tylko dokladnie to samo robia osoby uwazane ze kreatywne.  

 

[Wu70 3896]

Standupowcy od przycisków do wyłączania będą powoli wymierać  Następna fala przy GPT5 czyli jeszcze w tym roku

[Karister 1533]

Godzinę temu, offensive napisał:

Tylko Ty patrzysz na to jedynie przez pryzmat programowania, a sa jeszcze inne aspekty, w ktorych wlasnie AI dziala sobie calkiem dobrze. 
'Rozwiazania' ktore proponuje sa na poziomie rozwiazan ludzkich, okreslanych jako kreatywnych.

A co dziwnego widzisz w tym, że patrzę przez pryzmat programowania, odpisując na post o AI w programowaniu?

[sabaru 381]

23 godziny temu, galakty napisał:

Przede wszystkim AI nie jest póki co kreatywne, wie to czego co mu się wtłoczy do modelu, nie wpadnie samo na super rozwiązanie, bo o nim nie wie. Nie myśli, nie tworzy, tylko odtwarza i łączy kropki. 

Dlatego tego AI nazywać nie można. Do tego jeszcze bardzo daleka droga. To co oni serwują to po prostu trochę bardziej zaawansowane algorytmy i nic więcej. Co nieraz powtarzałem. A że to jest teraz popularne i lepiej się sprzedaje to wciskają tą nazwę do coraz większej ilości, np. programów. Raz w jakimś program graficznym widziałem że też tą nazwą nazwali jakąś funkcje w programie. Ona była tylko nieco lepiej podrasowana od poprzedniej wersji i tyle.

Edytowane 25 Marca przez sabaru

[galakty 5493]

 

[Áltair 956]

W dniu 24.03.2024 o 19:49, galakty napisał:

Przede wszystkim AI nie jest póki co kreatywne, wie to czego co mu się wtłoczy do modelu, nie wpadnie samo na super rozwiązanie, bo o nim nie wie. Nie myśli, nie tworzy, tylko odtwarza i łączy kropki. 

https://dzienniknaukowy.pl/nowe-technologie/sztuczna-inteligencja-identyfikuje-rase-na-podstawie-zdjec-rentgenowskich-naukowcy-nie-wiedza-w-jaki-sposob

[adashi 2002]

O i o takich rzeczach chciałbym czytać, może bez tej lewackiej otoczki tylko. To jest prawdziwa wartość dodana płynąca od ai, nie śliczne obrazki.