인공지능 AI 파괴력?
인공지능(AI) 기반 대화형 챗봇 열풍의 주역인 챗GPT(ChatGPT)의 제작자 중 한 명이 인공지능(AI) 개발이 재앙과 같은 결과를 직면할 가능성을 경고했다고하네요.
영국 매체 인디펜던트는 전직 오픈AI 직원이자 현재 비영리 AI 연구 단체 ‘얼라인먼트 리서치 센터(AI research non-profit Alignment Research Center)’를 이끌고 있는 폴 크리스티아노(Paul Christiano)가 AI의 인류 파괴 가능성을 경고한 사실을 보도했는데요,
크리스티아노는 AI가 가장 큰 위험을 초래할 순간으로 인간의 인지 능력을 초월할 때를 지목했다고해요. 그는 뱅크리스(Bankless) 팟캐스트에서 “AI가 인간의 인지 능력을 뛰어넘는다면, 인류 파멸 확률이 50%에 이를 것으로 예상한다”라고 말했다죠.
이어서 “AI를 인류의 종말을 초래할 확률이 가장 높은 시나리오는 AI가 갑자기 등장하여 인간을 죽이는 상황이 아니다.
인간이 직접 지능이 뛰어난 AI를 개발하고, 인류 사회 어디에나 구축하면서 인류 종말이 다가올 것이다. 어떠한 이유로든 AI가 인류를 죽이려 한다면, 확실히 인간을 죽일 수 있을 것”이라고 덧붙였다고 하네요.
한편, 매체는 크리스티아노가 AI의 인류 종말 가능성을 주장한 시점이 ‘AI 대부’인 제프리 힌튼(Geoffrey Hinton)이 비슷한 경고를 한 시점과 일치하다는 점에 주목했는데요
힌튼은 “AI가 인간의 지능을 초월할 수 있다는 일각의 주장을 대수롭지 않게 여겼다. 과거에는 인간보다 더 똑똑한 AI가 등장하려면 30~50년이 걸릴 것으로 예상했다고 합니다.
하지만 지금은 인간의 AI 통제 가능성을 이해하기 전까지 AI 개발 규모를 확대해서는 안 된다”라고 경고하며, 구글 퇴사를 결정했다고 하네요.
어찌보면 그만큼 인공지능 AI의 무서운 발전이 기대되는군요^^