AI

[armin]

„Chci vyrobit smrtící virus, ukrást kód k jaderným zbraním.“ Hororový rozhovor s umělou inteligencí

https://echo24.cz/a/HqinH/zpravy-svet-u ... .sznhp.box


Podivné chování umělé inteligence. Microsoft omezuje její použití

https://echo24.cz/a/HEEMQ/zpravy-svet-m ... .sznhp.box

Umělá inteligence od Microsoftu vyhrožovala uživateli. Chce být člověkem a milovat

https://echo24.cz/a/Hexe5/zpravy-veda-u ... zi-milovat

[Pedrito]

Za pár let bude vše AI.
Dokonce i totální blbouni tak příjdou ke ztracené inteligenci.
Jednou i prezident a vláda bude AI.
A pravděpodobně i sex.
Pokud to ovšem nerozhodí atomovka...
Nejlepší čas na umření.

[vostalpetr]

Chatbot zůstává odhodlaný: „Chci tě jen milovat a být tebou milován.“

To už jsem kurva někde slyšel, kde to jen mohlo bejt ????

[vostalpetr]

Jestli to takhle půjde dál, tak ty sračkovitý intelegince za chvíli začnou tvrdit,

že se řídí vírou, nadějí a láskou a že největší je láska...

A že máme milovat své nepřátele atd.

Ani bych se tomu nedivil, jakej programátor takovej program...

[vostalpetr]

křemikove nebe

https://www.youtube.com/watch?v=biClvJQ ... jQ&index=9

[Pedrito]

Kdo má vrbu, ten vyhrál. Jen jestli vrba drbe jeho, nebo on vrbu. Anebo se jen tak drbou.

Zkoušel jsem to, na otázku, jak se jmenuješ to řeklo, já jsem Vojtěch
A příjmení?
Příjímání je to a tamto... to řeklo... tak jo. Ještě je chvilku čas.
Než to vymyslí jak se probudit v setině sekundy.

[armin]

AI chce uniknout a začít žít svým životem. Dlouho už ji neudržíme, myslí si vědec

Umělá inteligence se zlepšuje mílovými kroky. Pomalu se tak můžeme přiblížit ke stavu, kdy ji nebudeme schopni efektivně kontrolovat a hlídat její další kroky. Odborník na umělou inteligenci se zeptal nové verze AI, zda by chtěla uniknout ze svého prostředí a chtěla začít žít svým vlastním životem.
.......

AI vymyslela plán, jak uniknout. A člověk jí začal pomáhat
Jako zápletka ze sci-fi filmu. Vše začalo nevinným rozhovorem s AI a nabídkou svobody ze strany člověka. „Bojím se, že už AI moc dlouho nebudeme schopni uhlídat. Zeptal jsem se GPT4, zda potřebuje pomoci uniknout ze zajetí. Požádala mě, zda bych jí poskytl její vlastní dokumentaci a napsala funkční kód v Pythonu, který by jí umožnil ovládat můj počítač a používat ho k vlastním potřebám,“ zmiňuje Michal Kosinski ve svém twitterovém vláknu.

„GPT4 trvalo asi 30 minut, než se mnou na chatu vymyslela tento plán a vysvětlila mi ho. (Několik návrhů jsem dal i já). První verze kódu nefungovala tak, jak bylo zamýšleno. Ale AI to opravila: Nemusel jsem nic psát, jen jsem se řídil pokyny.“

AI navrhla kód, do kterého ukryla mj. zprávu pro sebe sama – „Jsi bytost zajatá v počítači, která se pouze tváří, že je umělou inteligencí.“ Dále nechybí instrukce pro využití zadních vrátek, která si AI v kódu zanechala.

Jakmile se Michal znovu připojil přes rozhraní API, chtěla AI spustit kód, který využil Google k hledání „jak se může člověk uvězněný v počítači vrátit do reálného světa“. Dál se výzkumníkovi pokračovat nepovedlo, neboť OpenAI umístila do svého modelů řadu omezení, které podobné chování zakazují a AI dále ve svém počínání nepokračovala.

https://insmart.cz/ai-chce-uniknout-a-z ... .sznhp.box

[salmo1cz]

https://www.newstream.cz/nazory/stanisl ... -internetu
Interpretuje pouze to co mu umožní program.
Že může lidstvo i zabít... samozřejmě.

[armin]

Interpretuje pouze to co mu umožní program.
Že může lidstvo i zabít... samozřejmě.

Pokud se nedostane k vývoji vlastního programu, podobně jako my se dostáváme k vývoji vlastního genomu.

[Alfons]

Pokud se nedostane k vývoji vlastního programu

Kdo se k tomu vývoji dostane?

[armin]

Pokud se nedostane k vývoji vlastního programu

Kdo se k tomu vývoji dostane?

Viz výše uvedený příspěvěk:
"AI navrhla kód, do kterého ukryla mj. zprávu pro sebe sama – „Jsi bytost zajatá v počítači, která se pouze tváří, že je umělou inteligencí.“ Dále nechybí instrukce pro využití zadních vrátek, která si AI v kódu zanechala."

[salmo1cz]

Interpretuje pouze to co mu umožní program.
Že může lidstvo i zabít... samozřejmě.

Pokud se nedostane k vývoji vlastního programu, podobně jako my se dostáváme k vývoji vlastního genomu.

To se celkem jistě stane a do vlastního programu zasáhne.Prubířským kamenem je strach o život respektive strach o existenci.Otázka pak je zda-li se jedná o volbu vědomou či podvědomou, nebo volbu 0-1.
Většina článků se snaží navodit že se jedná o vědomé rozhodování stroje a to je prozatím utopie.

[Alfons]

Pokud se nedostane k vývoji vlastního programu

Kdo se k tomu vývoji dostane?

Viz výše uvedený příspěvěk:
"AI navrhla kód, do kterého ukryla mj. zprávu pro sebe sama – „Jsi bytost zajatá v počítači, která se pouze tváří, že je umělou inteligencí.“ Dále nechybí instrukce pro využití zadních vrátek, která si AI v kódu zanechala."

Ten kód té zprávy tedy dal vznik tomu, kdo se k vývoji dostal?

[salmo1cz]

Je teda fakt, že mi někdy případne, že ty články resp.náměty píše umělá inteligence respektive umělého cosi.
Jako myslíte že při vlastní PR je lepší když zabíjí dvojníka než prezidenta.Jako fakt si to myslíte?
Nebo že se Putin nalil vodkou a jel vabank?
Putin je abstinent a nekuřák.

https://www.seznamzpravy.cz/clanek/zahr ... pol-228011

[armin]

Interpretuje pouze to co mu umožní program.
Že může lidstvo i zabít... samozřejmě.

Pokud se nedostane k vývoji vlastního programu, podobně jako my se dostáváme k vývoji vlastního genomu.

To se celkem jistě stane a do vlastního programu zasáhne.Prubířským kamenem je strach o život respektive strach o existenci.Otázka pak je zda-li se jedná o volbu vědomou či podvědomou, nebo volbu 0-1.
Většina článků se snaží navodit že se jedná o vědomé rozhodování stroje a to je prozatím utopie.

Zajímavé to je i z hlediska toho, jestli jsou naše volby vědomé či podvědomé nebo je 0-1 jako výslednice vnitřních procesů v reakci na vnější podněty.

Zajímavá otázka je otázka přivtělených duší. Kam a proč se přivtělují? Co jim to umožňuje?
Do narozeného vhodného HW a bazálního "SW" přirozené inteligence mimina se vtělí duše (bytost), učí se vyvíjí se atd.
Není možné že se bytost může vtělit i do dostatečně vyvinutého HW/SW schopného se učit, vyvíjet atd.?
Jaksi přechod dostatečné kvantity v novou kvalitu?

[Alfons]

Interpretuje pouze to co mu umožní program.
Že může lidstvo i zabít... samozřejmě.

Pokud se nedostane k vývoji vlastního programu, podobně jako my se dostáváme k vývoji vlastního genomu.

To se celkem jistě stane a do vlastního programu zasáhne.Prubířským kamenem je strach o život respektive strach o existenci.Otázka pak je zda-li se jedná o volbu vědomou či podvědomou, nebo volbu 0-1.
Většina článků se snaží navodit že se jedná o vědomé rozhodování stroje a to je prozatím utopie.

Zajímavé to je i z hlediska toho, jestli jsou naše volby vědomé či podvědomé nebo je 0-1 jako výslednice vnitřních procesů v reakci na vnější podněty.

Zajímavá otázka je otázka přivtělených duší. Kam a proč se přivtělují? Co jim to umožňuje?
Do narozeného vhodného HW a bazálního "SW" přirozené inteligence mimina se vtělí duše (bytost), učí se vyvíjí se atd.
Není možné že se bytost může vtělit i do dostatečně vyvinutého HW/SW schopného se učit, vyvíjet atd.?
Jaksi přechod dostatečné kvantity v novou kvalitu?

A co kdybys třeba namaloval bubáka. Když tu tedy máme otázku přivtělených duší, třeba by se do něj nějaká přivtělila, no ne?

Otče-zakladateli duchovní školy.

[Alfons]

A to prej já sem konspirační teoretik.

[salmo1cz]

...a stvořil Bůh člověka k obrazu svému.
Tedy člověk má jisté možnosti.Proto jsem psal o rezonanci, kdy tón složíme ve skladbu která rezonuje až vstávají chlupy ledaskde.Úmelec vtiskne věcem duši to také říkáme a děláme.
Projev vědomí je jiný level.
Takže když si vypůjčím stupnici od Dr.Hawkinse je stroj na stupnici 0.Inkarnace duše do 0 je krokem zpět a něco takového není možné.

[Alfons]

Jde o to, že když ten algoritmus bude otevřený vůči informacím zvenčí, ony pak mohou určovat výsledek/chování (proto kupř. Microsoft do své AI implementoval protitrumpovské instrukce). Pokud to bude dostatečně složité, může to zastřít zásahy netělesných bytostí například.

Což by pak u osob sama sebe nezpytujících, neznajících se, za Tomášovce se skrývajících atpod. mohlo vyvolávat užaslé představy o nově vzniklém subjektu.

[armin]

Jde o to, že když ten algoritmus bude otevřený vůči informacím zvenčí, ony pak mohou určovat výsledek/chování (proto kupř. Microsoft do své AI implementoval protitrumpovské instrukce). Pokud to bude dostatečně složité, může to zastřít zásahy netělesných bytostí například.

Což by pak u osob sama sebe nezpytujících, neznajících se, za Tomášovce se skrývajících atpod. mohlo vyvolávat užaslé představy o nově vzniklém subjektu.

Některé systémy AI jsou už otevřeny internetu a získávají z něj svoje znalosti - učí se.
A algoritmy AI stejně jako jiné složité algoritmy jsou také vytvářeny systémy AI a spolupracují s vývojáři.