OpenAI uviedla, že superinteligencia bude najvplyvnejšou technológiou, akú kedy ľudstvo vymyslelo, ale môže byť aj veľmi nebezpečná a môže viesť k oslabeniu ľudstva alebo dokonca k zániku ľudstva.
OpenAI, tvorca ChatGPT, varoval, že AI by mohla do konca tohto desaťročia dosiahnuť silu superinteligencie, čo by mohlo byť tiež veľmi nebezpečné, pretože by to mohlo viesť k strate moci ľudstva alebo dokonca k zániku ľudstva.
„Superinteligencia bude najvplyvnejšou technológiou, akú kedy ľudstvo vymyslelo, a mohla by nám pomôcť vyriešiť mnohé z najdôležitejších problémov sveta. Obrovská sila superinteligencie by však mohla byť aj veľmi nebezpečná a mohla by viesť k strate moci ľudstva alebo dokonca k zániku ľudstva. Zatiaľ čo superinteligencia sa teraz zdá byť ďaleko, veríme, že by mohla prísť v tomto desaťročí,“ uviedla OpenAI v blogovom príspevku.
Pretek, ktorý sa vymkol spod kontroly
Začiatkom tohto roka prominentní odborníci požiadali laboratóriá umelej inteligencie, aby okamžite pozastavili školenie systémov AI výkonnejších ako GPT na najmenej šesť mesiacov. V liste podpísaným technickými doyenmi sa uvádzalo, že keďže laboratóriá AI sú v pretekoch, ktoré sa vymkli kontrole, aby vyvinuli ešte výkonnejšie digitálne mysle, nedochádza k správnemu riadeniu plánovania, ktoré by zhodnotilo a kontrolovalo dôsledky takýchto technológií.
V reakcii na blogový príspevok OpenAI generálny riaditeľ spoločnosti Paytm Vijay Shekhar Sharma povedal: „Za menej ako 7 rokov máme systém, ktorý môže viesť k strate moci ľudstva a dokonca k vyhynutiu ľudstva. Naozaj ma znepokojuje sila, ktorú už nahromadila určitá skupina ľudí a vybrané krajiny.
OpenAI uviedla, že zostavuje tím špičkových výskumníkov a inžinierov strojového učenia, ktorí budú pracovať na tomto probléme.
„Venujeme 20 percent výpočtového výkonu, ktorý sme k dnešnému dňu zabezpečili počas nasledujúcich štyroch rokov, na riešenie problému zosúladenia superinteligencie.