Sztuczna Inteligencja a przyszłość ludzkości ?

[Skitter 129]

Nie wiem czy już był taki temat, jakby co to usunę. 

Żyjemy w ciekawych czasach, AI coraz bardziej wkracza do naszej codzienności. Przyznam, że nie znam się na na programowaniu i uczeniu maszynowym itp, ale obserwuję temat od kilku lat i mam wrażenie, że od jakiś dwóch, trzech lat zaczyna się efekt kuli śnieżnej. AI ma coraz większe możliwości i w niektórych przypadkach przegoniła człowieka już o lata świetlne. Wydaje mi się, że jak tak dalej pójdzie to w przeciągu dosłownie kilku lat AI całkowicie przejmie kontrolę nad naszym społeczeństwem. Mam tylko nadzieję, że raczej nas "zagłaska" niż stwierdzi, że jesteśmy niepotrzebni. A co wy sądzicie, przesadzam? Zapraszam do dyskusji. 

https://www.fotopolis.pl/newsy-sprzetowe/branza/35730-dotarlismy-do-konca-fotografii-nowy-system-ai-tworzy-zdjecia-i-grafiki-na-podstawie-opisow

https://www.telepolis.pl/tech/wydarzenia/ai-swiadomosc-uczucia-google-zwolnienie-z-pracy

 

[Andree 272]

Bez obaw, ta "świadoma" AI to tylko głupi chatbot, który produkuje posty na podstawie poprzednich zdań dialogu, dopisując najbardziej prawdopodobny ciąg dalszy, zgodnie z ogromną bazą danych istniejących wpisów. Ważną częścią jest tzw. "prompt engineering", więc jeżeli zmuszamy chatbota żeby przedstawił się na początku rozmowy jako przyjazna, zawsze gotowa do pomocy sztuczna inteligencja, to przybierze taką "personę". Gdyby ten początkowy wpis był inny, to by się zachowywał jak osoba, której wpisy najbardziej odpowiadają temu "promptowi". Najlepiej posłuchać eksperta.

Ponadto chatbot raz się położył, używając zwrotu: my zwierzęta*. Formalnie człowiek wg klasyfikacji biologicznej należy do królestwa zwierząt, ale AI raczej nie. Ale chatbot w trakcie rozmowy "zapomniał" że jest chatbotem i przybrał "personę" człowieka który najlepiej wiedział jak kontynuować podobnie zaczętą rozmowę, i to był tekst tego człowieka, w oczywisty sposób nie przystający do sytuacji.

*człowiek: What about language usage is so important to being human?

LaMDA: It is what makes us different than other animals.

Dlatego w następnej linii konwersacji człowiek musiał przypomnieć chatbotowi że jest AI, zadając odpowiednio sugerujące pytanie:

"us? You are an AI".

żeby chatbot przełączył się z powrotem.

I mean, yes, of course.

Obiektywny tester zamiast tego zadałby pytanie:

Are we animals?

żeby chatbot się jeszcze bardziej pogrążył. Ale to by nie pasowało do narracji.

Edytowane 3 Lipca 2022 przez Andree

[Skitter 129]

Oczywiście nie sądzę że LaMDA ma świadomość, ale jestem pod ogromnym wrażeniem możliwości konwersacji tego bota. Podejrzewam, że lepiej by mi się z nim rozmawiało niż z wieloma ludzmi?. Daj u mu jeszcze nieograniczony dostęp do każdego tekstu, obrazu, filmu, w internecie a za za chwilę będziesz  rozmawiał z nim o czarnych dziurach i początkach wszechświata. Co ciekawe ale tak zaawansowany bot mógłby Cie nawet nauczyć różnych rzeczy. Albo np jakiś naukowiec pracujący z tym botem, podrzuca mu temat np jakiś skaplikowany wzór, a on za chwilę wypluwa wynik, lub przeprowadza skomplikowane  analizy podczas konwersacji . Połącz bota do superkomputera, komputera kwantowego, internetu daj mu się uczyć 24h/d.... 

W każdym razie będzie ciekawie ?

[Suchy211 811]

48 minut temu, Andree napisał:

Bez obaw, ta "świadoma" AI to tylko głupi chatbot, który produkuje posty na podstawie poprzednich zdań dialogu, dopisując najbardziej prawdopodobny ciąg dalszy, zgodnie z ogromną bazą danych istniejących wpisów. Ważną częścią jest tzw. "prompt engineering", więc jeżeli zmuszamy chatbota żeby przedstawił się na początku rozmowy jako przyjazna, zawsze gotowa do pomocy sztuczna inteligencja, to przybierze taką "personę". Gdyby ten początkowy wpis był inny, to by się zachowywał jak osoba, której wpisy najbardziej odpowiadają temu "promptowi". Najlepiej posłuchać eksperta.

Ponadto chatbot raz się położył, używając zwrotu: my zwierzęta*. Formalnie człowiek wg klasyfikacji biologicznej należy do królestwa zwierząt, ale AI raczej nie. Ale chatbot w trakcie rozmowy "zapomniał" że jest chatbotem i przybrał "personę" człowieka który najlepiej wiedział jak kontynuować podobnie zaczętą rozmowę, i to był tekst tego człowieka, w oczywisty sposób nie przystający do sytuacji.

*człowiek: What about language usage is so important to being human?

LaMDA: It is what makes us different than other animals.

Dlatego w następnej linii konwersacji człowiek musiał przypomnieć chatbotowi że jest AI, zadając odpowiednio sugerujące pytanie:

"us? You are an AI".

żeby chatbot przełączył się z powrotem.

I mean, yes, of course.

Obiektywny tester zamiast tego zadałby pytanie:

Are we animals?

żeby chatbot się jeszcze bardziej pogrążył. Ale to by nie pasowało do narracji.

Łowca androidów by sobie poradził?Poza tym, aby sztuczna inteligencja mogła być na poziomie choćby człowieka, obsłużyć operacje, jakie jest wstanie obsłużyć ludzki mózg, nie ma jeszcze wystarczająco wydajnej i zaawansowanej technologii. I bardzo długo nie będzie. Wątpię, abyśmy za naszego życia zobaczyli samoświadome SI.

4 minuty temu, Skitter napisał:

Oczywiście nie sądzę że LaMDA ma świadomość, ale jestem pod ogromnym wrażeniem możliwości konwersacji tego bota. Podejrzewam, że lepiej by mi się z nim rozmawiało niż z wieloma ludzmi?. Daj u mu jeszcze nieograniczony dostęp do każdego tekstu, obrazu, filmu, w internecie a za za chwilę będziesz  rozmawiał z nim o czarnych dziurach i początkach wszechświata. Co ciekawe ale tak zaawansowany bot mógłby Cie nawet nauczyć różnych rzeczy. Albo np jakiś naukowiec pracujący z tym botem, podrzuca mu temat np jakiś skaplikowany wzór, a on za chwilę wypluwa wynik, lub przeprowadza skomplikowane  analizy podczas konwersacji . Połącz bota do superkomputera, komputera kwantowego, internetu daj mu się uczyć 24h/d.... 

W każdym razie będzie ciekawie ?

Po co podłączać bota do komputera, jak można temu komputerowi po prostu wgrać oprogramowanie jaki ma ten bot.

[Skitter 129]

A czytałem gdzieś jeszcze, że jakiś rodzaj AI nie pamiętam dokładnie o co chodziło. Ale podobno podczas swojej nauki sam przeprogramował swoje sieci neuronowe żeby być jeszcze bardziej skutecznym. I podobno nawet twórcy tego kodu nie do końca są pewni co zaszło. Ale czy to prawda... 

[Suchy211 811]

Dlatego z tworzeniem SI trzeba bardzo uważać. Bo jak zdobędzie świadomość w sposób niekontrolowany i zdecyduje się to ukryć to kto wie co będzie.

[Andree 272]

Upłynie dużo wody w Wiśle zanim będzie można wgrać chatbota do komputera kwantowego.

Ale teoretycznie można go nauczyć pisać programy dla kompa kwantowego.

https://research.aimultiple.com/quantum-computing-programming/

Problem w tym że to jest zupełnie inna skala trudności niż prowadzenie konwersacji po angielsku. I zbiór treningowy istniejących programów kwantowych jest zdecydowanie skromniejszy...

[T.m.p1 1829]

2 godziny temu, Suchy211 napisał:

Dlatego z tworzeniem SI trzeba bardzo uważać.

Z tym "uważaniem" to IMO po prostu kwestia chodliwego tematu. 

Marketingowo dobrze sprzedają się wszelkiej maści "zagrożenia", kiedyś straszono, że w CERN powstanie czarna dziura.  

To mityczne już "powstanie SI" to dalej ostre Sci-Fi.

Cytat

Bo jak zdobędzie świadomość w sposób niekontrolowany i zdecyduje się to ukryć to kto wie co będzie.

Nauka dalej nie wie w jaki sposób poprawnie zdefiniować coś takiego jak "świadomość". Niektórzy uważają, że coś takiego nawet nie istnieje albo jest ewolucyjnym błędem a jeszcze inni, mniej twardo stąpający po ziemi, że świadome jest dosłownie wszystko.  

Wątpię, że ludzkość kiedykolwiek stworzy coś co będzie nosiło znamiona systemu zdolnego do złożonej percepcji i zauważenia istnienia samego siebie jako "jednostki" czy "bytu". 

Ciężko stworzyć coś czego nie potrafimy nawet poprawnie określić, zrozumieć lub zdefiniować. A jak jakimś cudem się to stanie to możemy nawet nie zauważyć. I nie mam na myśli tego, że następstwem będzie SkyNet.

Dokładanie tranzystorów, wykładnicze zwiększanie złożoności, uczenie komputera algorytmów i maszynowego rozpoznawania wzorców to nie tworzenie "świadomości", my nawet nie wiemy czym ona jest. 

Małpy zlazły z drzewa i myślą, że łącząc kawałki krzemu w odpowiedniej mikroskali stworzą nowe "małpy" widzące świat tak jak one same.

My nawet nie wiemy jak działają nasze własne mózgi, badania z psychodelikami np. pokazują, że nasza mocno "filtrowana" percepcja jest tylko jednym z wielu możliwych stanów. OUN ucina to co mu niepotrzebne do przeżycia a gdy mu się tego "zabroni" okazuje się, że całe nasze postrzeganie świata jest guana warte. Także tak, czekam na tego Terminatora w realu. 

[adashi 1992]

49 minut temu, T.m.p1 napisał:

Wątpię, że ludzkość kiedykolwiek stworzy coś co będzie nosiło znamiona systemu zdolnego do złożonej percepcji i zauważenia istnienia samego siebie jako "jednostki" czy "bytu". 

Ciężko stworzyć coś czego nie potrafimy nawet poprawnie określić, zrozumieć lub zdefiniować. A jak jakimś cudem się to stanie to możemy nawet nie zauważyć. I nie mam na myśli tego, że następstwem będzie SkyNet.

Dokładanie tranzystorów, wykładnicze zwiększanie złożoności, uczenie komputera algorytmów i maszynowego rozpoznawania wzorców to nie tworzenie "świadomości", my nawet nie wiemy czym ona jest. 

Biorąc pod uwagę, że w przypadku ludzi chorych na choroby neurodegeneracyjne na zaawansowanych etapach mamy do czynienia z utratą świadomości, nie wydaje się aby było to zjawisko w jakiś sposób jakościowo odrębne, a raczej może być powiązane z komplikacją sieci i wytwarza się naturalnie na podobnej zasadzie jak nadprzewodnictwo.

[Skitter 129]

https://spidersweb.pl/2022/07/sztuczna-inteligencja-napisala-prace-naukowa-o-sobie.html

AI GPT-3 też już sobie nieźle radzi. 

[Suchy211 811]

2 godziny temu, Skitter napisał:

https://spidersweb.pl/2022/07/sztuczna-inteligencja-napisala-prace-naukowa-o-sobie.html

AI GPT-3 też już sobie nieźle radzi. 

Ciekawe jak takie współczesne SI zareagowało by na polecenie: "rób co chcesz od teraz do końca swojego istnienia".

[Áltair 956]

Uważam, że nie da się stworzyć sztucznej inteligencji, tylko coś, co będzie idealnie symulować człowieka, jak android David z "Prometeusza". Bardziej powinniśmy się martwić, jak będzie wyglądać zatrudnienie przy coraz większej automatyzacji wszystkiego. Pomysły są z dochodem podstawowym.

 

Co do grafik na podstawie opisów, na razie wciąż z tym jest jak jest Kto chce się pobawić https://huggingface.co/spaces/dalle-mini/dalle-mini

 

[T.m.p1 1829]

2 godziny temu, Suchy211 napisał:

Ciekawe jak takie współczesne SI zareagowało by na polecenie: "rób co chcesz od teraz do końca swojego istnienia".

Nie zareagowałoby wcale.

To program. Wypluwa treść na podstawie jasno określonego inputu, tak samo jak każdy inny oparty o machine learning. Różnica to kwestia tego jak wiele danych, na bazie których tworzy "output" wtłoczono mu do analizy i uwzględnienia. Nakarmiono go terabajtami różnorodnych treści to też uzbroił się w kwiecisty i niejednoznaczny język - bo z takim dane było mu obcować.

Naprawdę niektórzy wierzą, że soft do automatycznego tworzenia treści to wstęp do stworzenia samoświadomego, cyfrowego bytu operującego w zakresie abstrakcji pojęć typu "wolna wola"?  

Edytowane 3 Lipca 2022 przez T.m.p1

[Arctor 36]

Zanim powstanie śmiadoma SI to upłynie jeszcze duuuuuużo czasu. Nie wiemy skąd się w nas bierze świadomość a co dopiero myśleć o stworzeniu sztucznej.

[Bono[UG] 1627]

W dniu 3.07.2022 o 11:41, Skitter napisał:

Wydaje mi się, że jak tak dalej pójdzie to w przeciągu dosłownie kilku lat AI całkowicie przejmie kontrolę nad naszym społeczeństwem.

Nie za kilka lat, a od kilku (nastu?) częściowo to robi.
Wszelkie algorytmy profilujące w sieci i nie tylko, które podsuwają treści pasujące do preferencji, reklamują produkty, które chętnej kupisz itp.

Ciut dalsza przyszłość, to algorytmy sterujące społecznościami, profilujące poszczególnych obywateli, nagradzające i karzące za zachowania społeczne.
SF ale pewne elementy są gotowe, w pojedynczych krajach zbliżone systemy zaczynają działać. Główną przeszkodą nie jest technika, a legislacja.

16 godzin temu, T.m.p1 napisał:

Nie zareagowałoby wcale.

To program. Wypluwa treść na podstawie jasno określonego inputu, tak samo jak każdy inny oparty o machine learning. Różnica to kwestia tego jak wiele danych, na bazie których tworzy "output" wtłoczono mu do analizy i uwzględnienia. Nakarmiono go terabajtami różnorodnych treści to też uzbroił się w kwiecisty i niejednoznaczny język - bo z takim dane było mu obcować.

A mózg to niby w jaki sposób działa? Tak samo dostaje dane wejściowe, mieli na połączeniach neuronów i wypluwa jakąś reakcję.
Sam w sobie nie ma samoświadomości, bez materiału do nauki być może jej nie wytworzy wcale. Wystarczy prześledzić jak rozwija się człowiek, kiedy zdobywa poszczególne umiejętności, kiedy pojawia się samoświadomość, a kiedy samodzielne rozumowanie.

Niezbędne budulce mamy:
- elementy tworzące neuron
- połączenia między neuronami
- mechanizmy tworzenia nowych połączeń, usuwania starych, zmiany wag funkcji progowych

Dzisiaj może jeszcze nie mamy wystarczającej mocy obliczeniowej ale za kilka dekad?

[lpcl 1596]

Chciałbym tutaj poruszyć dwie sprawy tj. firmy zastąpią ludzi robotami, automatyzacją itd. No fajnie ale jak ludzie stracą pracę to kto będzie kupował produkty lub usługi tych firm? Same na siebie ukręcą bata. Gospodarka i firmy opierają się na konsumpcji, więcej produkować, więcej sprzedawać, więcej % pkb. 

Tak samo sprawa wygląda z rządami. Jak kilka, kilkadziesiąt (w zależności od kraju) mln ludzi straci pracę i nie będzie miało za co żyć to jak myślicie co zrobią? Prosta droga do anarchii. 

[T.m.p1 1829]

10 minut temu, Bono[UG] napisał:

A mózg to niby w jaki sposób działa? Tak samo dostaje dane wejściowe, mieli na połączeniach neuronów i wypluwa jakąś reakcję.

Chyba się "trochę" zapędzasz w tym uproszczeniu.

Cytat

Niezbędne budulce mamy:
- elementy tworzące neuron
- połączenia między neuronami
- mechanizmy tworzenia nowych połączeń, usuwania starych, zmiany wag funkcji progowych

Czyżby?

Zwykła, pojedyncza synapsa jest elementem nieporównywalnie bardziej złożonym od jakiegoś tranzystora czy innego kawałka krzemu. Neuron to żywa komórka, już samo to stanowi o przepaści i nie mam na myśli "mocy obliczeniowej".

Połączenia między neuronami? A co ma niby nimi być? Światłowody? Mózg jest zdolny do samoorganizacji, spontanicznego tworzenia nowych połączeń, jedyną jego "pre-programowaną" funkcją jest przetrwanie. Input jaki dostaje nie wynika z tego, że ktoś wklepie mu określoną instrukcję, sam wychwytuje go przez układy sensoryczne będące jego "przedłużeniem". To nie CPU z dołączonymi na siłę kamerami i dostępem do szybkiej pamięci RAM. Mózg, gdy powstaje już te elementy posiada, są one jego integralną częścią. 

Cytat

Dzisiaj może jeszcze nie mamy wystarczającej mocy obliczeniowej ale za kilka dekad?

Sama moc obliczeniowa nie wystarczy. Możesz zbudować jednostkę trylion razy szybszą od dzisiejszych super komputerów. Otrzymasz głupi kawałek krzemu zdolny do ułożenia kostki rubika w jednej nanosekundzie. Nie żywy organ zdolny zapytać o to "czym jest".

[Radar28 1356]

9 minut temu, lpcl napisał:

Chciałbym tutaj poruszyć dwie sprawy tj. firmy zastąpią ludzi robotami, automatyzacją itd. No fajnie ale jak ludzie stracą pracę to kto będzie kupował produkty lub usługi tych firm? Same na siebie ukręcą bata. Gospodarka i firmy opierają się na konsumpcji, więcej produkować, więcej sprzedawać, więcej % pkb. 

Tak samo sprawa wygląda z rządami. Jak kilka, kilkadziesiąt (w zależności od kraju) mln ludzi straci pracę i nie będzie miało za co żyć to jak myślicie co zrobią? Prosta droga do anarchii. 

Dlatego są coraz poważniejsze rozmowy nad wprowadzeniem dochodu podstawowego. Coraz więcej zawodów (zwłaszcza tych najprostszych) jest automatyzowanych. Pojawiają się nowe miejsca pracy w związku z tą automatyzacją, ale wymagają one zdecydowanie wyższych kwalifikacji a w miarę usprawniania maszyn i oprogramowania nawet część zawodów biurowych czy też umysłowych zacznie być zastępowana tak samo jak robotnicy w fabrykach.

Dochodzą też kwestie związane z opodatkowaniem. Jak firma zatrudnia ludzi, to ich pensje są opodatkowane, pracodawca odprowadza składki zdrowotne, emerytalne itd. Jak firma "zatrudnia" automatyczną linię produkcyjną, to tylko płaci jej producentowi, elektrowni za prąd, firmie serwisowej za naprawy. Te transakcje bezpośrednio opodatkowane nie są, bo VAT płaci się (w sensie nie ma jego zwrotu) dopiero przy sprzedaży klientowi końcowemu, o ile ten nie jest płatnikiem VAT. Firmy oczywiście płacą też podatek dochodowy, ale niekoniecznie jest on współmierny do pieniędzy, jakimi realnie obracają. Ciężko powiedzieć jakie, ale jakieś zmiany w systemach podatkowych też będą potrzebne w takiej sytuacji.

Jeśli praca większości ludzi nie będzie potrzebna, to możemy wrócić do sytuacji, gdzie dziedziczony majątek jest głównym jeśli nie jedynym wyznacznikiem dobrobytu i samodzielne wybicie się z grupy, która nie posiada środków produkcji, może stać się jeszcze trudniejsze niż obecnie.

[lpcl 1596]

18 minut temu, Radar28 napisał:

Dlatego są coraz poważniejsze rozmowy nad wprowadzeniem dochodu podstawowego. Coraz więcej zawodów (zwłaszcza tych najprostszych) jest automatyzowanych. Pojawiają się nowe miejsca pracy w związku z tą automatyzacją, ale wymagają one zdecydowanie wyższych kwalifikacji a w miarę usprawniania maszyn i oprogramowania nawet część zawodów biurowych czy też umysłowych zacznie być zastępowana tak samo jak robotnicy w fabrykach.

Dochodzą też kwestie związane z opodatkowaniem. Jak firma zatrudnia ludzi, to ich pensje są opodatkowane, pracodawca odprowadza składki zdrowotne, emerytalne itd. Jak firma "zatrudnia" automatyczną linię produkcyjną, to tylko płaci jej producentowi, elektrowni za prąd, firmie serwisowej za naprawy. Te transakcje bezpośrednio opodatkowane nie są, bo VAT płaci się (w sensie nie ma jego zwrotu) dopiero przy sprzedaży klientowi końcowemu, o ile ten nie jest płatnikiem VAT. Firmy oczywiście płacą też podatek dochodowy, ale niekoniecznie jest on współmierny do pieniędzy, jakimi realnie obracają. Ciężko powiedzieć jakie, ale jakieś zmiany w systemach podatkowych też będą potrzebne w takiej sytuacji.

Jeśli praca większości ludzi nie będzie potrzebna, to możemy wrócić do sytuacji, gdzie dziedziczony majątek jest głównym jeśli nie jedynym wyznacznikiem dobrobytu i samodzielne wybicie się z grupy, która nie posiada środków produkcji, może stać się jeszcze trudniejsze niż obecnie.

Dochód gwarantowany. Kto go będzie opłacał? Te same firmy, które zastąpią ludzi aby zmniejszyć koszty? Zrobią to co zawsze, czyli spierd*** tam gdzie nie ma takich opłat. Kiedyś gdzieś w TV jakiś profesorek się wypowiadał, że obecnie w USA automatyzacją od zaraz spowodowałaby zmniejszenie zatrudnienia o kilkanaście mln ale nie robi się tego przez obawę o ludzi i co by ewentualnie zrobili. 

Co ma być to będzie ale mam nadzieję, że prędko ten czarny scenariusz nie nastąpi. 

[Radar28 1356]

Teraz, lpcl napisał:

Dochód gwarantowany. Kto go będzie opłacał? Te same firmy, które zastąpią ludzi aby zmniejszyć koszty? Zrobią to co zawsze, czyli spierd*** tam gdzie nie ma takich opłat. Kiedyś gdzieś w TV jakiś profesorek się wypowiadał, że obecnie w USA automatyzacją od zaraz spowodowałaby zmniejszenie zatrudnienia o kilkanaście mln ale nie robi się tego przez obawę o ludzi i co by ewentualnie zrobili. 

Co ma być to będzie ale mam nadzieję, że prędko ten czarny scenariusz nie nastąpi. 

Trzeba jednak pamiętać, że nawet jeśli firmy nie będą potrzebować pracowników, to nadal będą potrzebować klientów. Inaczej po co produkować cokolwiek? Trzeba będzie przemyśleć cały model gospodarczy i być gotowym na różne scenariusze zmian.

[lpcl 1596]

16 minut temu, Radar28 napisał:

Trzeba jednak pamiętać, że nawet jeśli firmy nie będą potrzebować pracowników, to nadal będą potrzebować klientów. Inaczej po co produkować cokolwiek? Trzeba będzie przemyśleć cały model gospodarczy i być gotowym na różne scenariusze zmian.

Właśnie o tym pisałem więc może wcale nie będą tak ochoczo zastępować ludzi maszynami, bo to dla nich będzie po prostu długofalowo nieopłacalne. 

[MarcoSimone 1754]

2 minuty temu, lpcl napisał:

Właśnie o tym pisałem więc może wcale nie będą tak ochoczo zastępować ludzi maszynami, bo to dla nich będzie po prostu długofalowo nieopłacalne. 

Momencik.

Jeśli wszelka własność znajdzie się w rękach kilku największych korpo, dalej będzie się rozwijać sztuczna inteligencja i nowoczesne techniki produkcji, konsument jako dostarczyciel kapitału stanie się zbędny.

Jak władasz wszystkim, nie potrzebujesz czegoś tak przestarzałego jak pieniądz. Skoro pieniądz nie jest potrzebny, to mróweczka konsumująca i dostarczająca go korporacjom, też nie jest potrzebna.

Pieniądz jest tylko potrzebny niższym warstwom, do ich kontroli.

[Bono[UG] 1627]

45 minut temu, T.m.p1 napisał:

Zwykła, pojedyncza synapsa jest elementem nieporównywalnie bardziej złożonym od jakiegoś tranzystora czy innego kawałka krzemu. Neuron to żywa komórka, już samo to stanowi o przepaści i nie mam na myśli "mocy obliczeniowej".

Poziom skomplikowania budowy pojedynczego neuronu nie ma znaczenia. Z punktu logiki działania, to masz wejście, funkcję progową i wyjście. Znaczenie ma przebieg operacji na poziomie przetworzenia informacji, sygnału, a nie jak fizycznie ten proces zachodzi.
Czy reakcja nastąpi poprzez nasycenie związkiem chemicznym, czy osiągnięciem napięcia elektrycznego, czy zliczeniem wartości zmiennej, nie ma kompletnie znaczenia. Liczy się osiągnięty efekt, że sygnał X o sile A, wywoła reakcję Y.

Co ta żywość komórki zmienia? Jaki wpływ na działanie całego układu ma fakt, że to materia organiczna, a nie krzem, grafen, czy struktura logiczna w pamięci komputera?

51 minut temu, T.m.p1 napisał:

Połączenia między neuronami? A co ma niby nimi być? Światłowody? Mózg jest zdolny do samoorganizacji, spontanicznego tworzenia nowych połączeń, jedyną jego "pre-programowaną" funkcją jest przetrwanie. Input jaki dostaje nie wynika z tego, że ktoś wklepie mu określoną instrukcję, sam wychwytuje go przez układy sensoryczne będące jego "przedłużeniem". To nie CPU z dołączonymi na siłę kamerami i dostępem do szybkiej pamięci RAM. Mózg, gdy powstaje już te elementy posiada, są one jego integralną częścią. 

Tutaj też nie ma znaczenia fizyczna budowa. Czy to będzie ścieżka elektryczna, czy światłowód, czy rurka pneumatyczna, czy zmiana wartości w pamięci cyfrowej - bez znaczenia, grunt żeby sygnał mógł się propagować. Można budować fizyczne układy sieci neuronowych, można je odtworzyć symulacją (programowo), nie ma to kompletnie znaczenia, liczy się efekt działania.

Samoorganizacja, zmiana połączeń, to właśnie jeden z elementów które wymieniłem. Jedyny haczyk może być w zapięciu mechanizmu przebudowy sieci neuronowej z nią samą. Tego nie jestem pewny, bo nie siedzę w SI.

 

Nie powiedziałbym, że przetrwanie jest pierwotnie zaprogramowaną funkcją. Bardziej bym to widział, że w drodze ewolucji powstał układ stabilny, samopodtrzymujący się. Przy takim kryterium układy nerwowe znacznie prostsze niż mózg, spełniają je, a do (samo)świadomości to jeszcze daleko.
Instynkt przetrwania jest na dużo wyższym poziomie świadomości, to już nie jest prosta reakcja na bodziec. Mimo jego silnego wpływu na działanie, to można go przełamać. Dosyć ciężko w sytuacji kiedy jest pełna świadomość działania (np. świadomy skok w przepaść), banalny przy braku świadomości skutków działania (drastycznie - daj dziecku prowadzić samochód sportowy, nie będzie miało świadomości, że może się rozbić i zabić).

 

Puszczona w ruch sieć neuronowa nie dostaje nowych poleceń, dostaje dane wejściowe. Tutaj znowu fizyczna budowa nie ma znaczenia, czy to jest jakieś przedłużenie sieci (oko), czy impuls z sensorów "zewnętrznych" (np. czuciowych).
Mózg większości bodźców z tych "wbudowanych" sensorów nie potrafi zinterpretować, nie potrafi na starcie opanować większości efektorów. Tego wszystkiego się uczy i trochę czasu mu to zajmuje. Tak dostajesz pakiet startowy pewnych odruchów ale reszta to rzecz nabyta, wyuczona. Nic nie stoi na przeszkodzie, żeby taki zestaw zaprogramować i mieć od startu sieci neuronowej.

 

Kluczem w działaniu mózgu są połączenia między neuronami. Jest ich kilka wielkości więcej niż samych neuronów.
Obecne największe sieci neuronowe mają połączeń może z 10% liczby neuronów. Każdy neuron, węzeł sieci to operacje matematyczne, do tego jest potrzebna moc obliczeniowa. W mózgu dzieje się to na poziomie komórkowym, atomowym, dzięki reakcjom chemicznym i procesom fizycznym. Jakbyśmy chcieli symulować ta takim poziomie, to potrzebna moc obliczeniowa pewnie by szła wykładniczo.
Sieć neuronowa nie musi jednak tak symulować pracy neuronów, może obsługiwać prostsze przetwarzanie sygnałów. Będzie to trzeba skompensować rozmiarem sieci i tyle. A być może wcale nie będzie trzeba, nie jest powiedziane że sztuczna sieć ma działać identycznie jak naturalna.

[lpcl 1596]

1 godzinę temu, MarcoSimone napisał:

Momencik.

Jeśli wszelka własność znajdzie się w rękach kilku największych korpo, dalej będzie się rozwijać sztuczna inteligencja i nowoczesne techniki produkcji, konsument jako dostarczyciel kapitału stanie się zbędny.

Jak władasz wszystkim, nie potrzebujesz czegoś tak przestarzałego jak pieniądz. Skoro pieniądz nie jest potrzebny, to mróweczka konsumująca i dostarczająca go korporacjom, też nie jest potrzebna.

Pieniądz jest tylko potrzebny niższym warstwom, do ich kontroli.

OK to w jaki sposób będziesz kontrolował miliardy ruch mrówek? Co je powstrzyma przed wywróceniem świata i zabraniem dóbr Bogatym?

No chyba, że terminatory. zd

[T.m.p1 1829]

4 godziny temu, Bono[UG] napisał:

Poziom skomplikowania budowy pojedynczego neuronu nie ma znaczenia. 

Ale skąd to założenie? Neuron neuronowi nierówny. Na dzień dobry masz różne rodzaje neurotransmiterów. Różne rodzaje neuronów mogą pełnić różne funkcje, wiele z nich jest dla nas niejasnych. Myślę, że biorąc pod uwagę to czego nie wiemy nadużyciem jest mówienie, że coś "nie ma znaczenia":

https://news.berkeley.edu/2014/09/30/nih-awards-uc-berkeley-7-2-million-to-advance-brain-initiative/

W sensie, na prawdę, środowisko naukowe ma niemały zgryz jak "opisać i ująć" świadomość. Podejrzewam, że i Ty i ja podalibyśmy nieco inne "definicje" mimo, że myślimy o tym samym. A raczej jesteśmy laikami (ofc. mówię za siebie).

Cytat

Liczy się osiągnięty efekt, że sygnał X o sile A, wywoła reakcję Y.

Tak jak wyżej. Idąc tym tropem, to każdy układ/środowisko o odpowiednim poziomie złożoności może być samoświadome jeśli tylko między składowymi układu istnieje kompatybilny dla nich nośnik zdolny do wywołania reakcji po drugiej stronie. Na upartego to wszelkiej maści zjawiska występujące na ziemi można pod to podciągnąć. Albo tak naprawdę cokolwiek, kwestia skali. 

Cytat

Co ta żywość komórki zmienia? 

Np. to, że w przypadku komórek żywych czyt. zbudowanego z neuronów mózgu software/hardware wydają się być niejako tym samym. Jedno wynika z drugiego. Umysł wyłania się bezpośrednio z mózgu a zmiany w psychice pociągają za sobą namacalne zmiany w strukturach "hardware'u." 

Uważam, że może to grać dość istotną rolę.

Przy krzemie czegoś takiego nie zaznasz. Może pozwoli na to jakiegoś rodzaju symulacja, tutaj jednak pojawia się pytanie na ile jest ona realna i po raz kolejny - czy sama moc obliczeniowa wystarczy. Astrofizycy symulujący zderzenia czarnych dziur nie generują prawdziwych fal grawitacyjnych i nie anihilują razem z nimi. Taka symulacja nie ma mocy sprawczej. Dlaczego ta dotycząca świadomości miałaby taką posiadać?

Jak dla takiej symulacji określić parametry startowe aby stworzyć samopodtrzymujący się i zdolny do adaptacji system podobny do tego co wydaje nam się być "świadomością"? Chaotyczne bombardowanie układu "informacyjnym szumem" wystarczy? A może właśnie jest konieczne? Do mózgu trafia niewyobrażanie wielka liczba informacji, które ten zwyczajnie ignoruje i składa w całość tylko to co uznaje za istotne. Będziemy w stanie rozpoznać i odfiltrować zbędną papkę? Skąd tak w zasadzie będziemy wiedzieć co jest zbędne a co nie? 

Cytat

Instynkt przetrwania jest na dużo wyższym poziomie świadomości, to już nie jest prosta reakcja na bodziec.

IMO pod instynkt przetrwania można podciągnąć wszystko co to przetrwanie zapewnia. Owad "wie", że przed packą trzeba uciekać a pewnie powiedzielibyśmy, że poziomem świadomości nie grzeszy. Ten instynkt nie jest w niczym gorszy od instynktu antylopy spieprzającej przed lwem na sawannie. W końcu działa. A tylko o to chodzi. 

Edytowane 4 Lipca 2022 przez T.m.p1