Objev, který by mohl ohrozit lidstvo. Co předcházelo odvolání Altmana?Proč byl Sam Altman odvolán z čela OpenAI? Několik výzkumných pracovníků této americké společnosti údajně krátce předtím varovalo správní radu v dopise před „přelomovým objevem v oblasti umělé inteligence (AI), který by podle nich mohl ohrozit lidstvo“. Informovala o tom agentura Reuters s odvoláním na dva informované zdroje.
Dopis a objev podle nich byly klíčovými momenty před tím, než správní rada Altmana minulý týden v pátek překvapivě odvolala. Autoři dopisu na žádost o komentář nereagovali.
Altman po vyhazovu přešel do Microsoftu, který firmu OpenAI podporuje. Když ale většina zaměstnanců OpenAI pohrozila odchodem, pokud se Altman do šéfovského křesla nevrátí, věci nabraly nový spád. Za jeho návrat do čela OpenAI lobbovali i významní investoři. Altman se tak v úterý po bouřlivém vývoji do čela firmy vrátil. Společnost OpenAI vyvinula populární nástroj ChatGPT.
Zdroje agentury Reuters uvedly, že dopis byl jedním z faktorů, které vedly k Altmanovu odvolání. Dalším důvodem podle nich byly obavy z komerčního využití objevu před pochopením jeho důsledků.
Projekt nazvaný Q*Společnost OpenAI věc nekomentovala. V interním dopise zaměstnancům potvrdila projekt nazvaný Q* (zkratka pro Q Star) i zmiňovaný dopis výzkumných pracovníků správní radě, uvedl jeden ze zdrojů.
Někteří zaměstnanci OpenAI se domnívají, že projekt Q* by mohl být průlomem v hledání takzvané obecné umělé inteligence (AGI), řekl jeden z nich. OpenAI definuje AGI jako autonomní systémy, které překonají člověka ve většině ekonomicky hodnotných úkolů.
Nový model byl podle téhož zdroje schopen řešit určité matematické úlohy. Výzkumníci považují matematiku za hranici vývoje generativní umělé inteligence. V současné době je generativní AI dobrá v psaní a překladu jazyka tím způsobem, že statisticky předpovídá další slovo. Odpovědi na stejnou otázku se mohou přitom značně lišit.
Ovládnutí matematiky, kde existuje pouze jedna správná odpověď, by znamenalo, že by AI měla větší schopnosti uvažování připomínající lidskou inteligenci. To by se mohlo uplatnit například v novém vědeckém výzkumu, domnívají se odborníci.
Na rozdíl od kalkulačky, která dokáže řešit omezený počet operací, dokáže AGI zobecňovat, učit se a chápat. V dopise správní radě výzkumníci upozornili na schopnosti a potenciální nebezpečí AI, uvedly zdroje.
https://www.novinky.cz/clanek/internet- ... .seznam.cz