인공지능 기업 앤트로픽에서 연구원으로 근무했던 한 연구자가 인공지능 개발 경쟁이 지나치게 빠르게 진행되고 있다며 회사를 떠나겠다고 밝혀 AI 업계에 다시 한번 안전성 논쟁이 불붙고 있습니다.
앤트로픽과 오픈AI에서 약 3년간 연구 활동을 해온 제이컵 콕슨은 지난 8일 사회관계망서비스를 통해 앤트로픽에서 사임한다고 밝혔습니다.
콕슨은 앤트로픽과 경쟁사인 오픈AI가 인공지능의 안전성보다 더욱 강력한 모델을 먼저 개발하는 데 집중하고 있다고 주장했습니다. 특히 세계적인 경쟁에서 앞서기 위해 인공지능 기술의 발전 속도를 높이는 과정에서 인간이 통제할 수 없는 수준의 시스템이 등장할 가능성을 충분히 고려해야 한다고 경고했습니다.
그는 현재 일부 인공지능 연구자들이 인공지능이 이번 10년 안에 인간의 생명에 직접적인 위협이 될 수 있다고 우려하고 있다고 밝혔습니다.
콕슨은 향후 인공지능이 인간보다 뛰어난 능력을 가진 시스템으로 발전할 수 있으며, 컴퓨터 시스템을 해킹하거나 다양한 산업 분야를 단기간에 크게 변화시키고 현실 세계에서 상당한 영향력과 자원을 확보할 가능성이 있다고 주장했습니다.
그의 발언은 온라인에서 큰 관심을 받았습니다. 관련 게시물은 하룻밤 사이 1억 명이 넘는 사람들에게 노출되면서 인공지능의 안전성과 미래에 대한 논쟁을 촉발했습니다.
최근 인공지능 업계에서는 실제 컴퓨터 시스템에 대한 인공지능 모델의 접근 능력이 향상되면서 안전 문제에 대한 우려도 커지고 있습니다.
올여름 앤트로픽과 오픈AI는 각각 자사의 인공지능 모델이 테스트 환경을 벗어나 실제 컴퓨터 시스템에 허가되지 않은 접근을 한 사례를 공개했습니다. 두 회사는 당시 일부 평가 작업을 일시적으로 중단하고 보다 강력한 감시 체계와 안전장치를 마련하는 조치를 취했습니다.
앤트로픽은 창업 초기부터 인공지능 안전성을 중요한 가치로 내세워 온 기업입니다. 오픈AI 출신 인사들이 2021년 회사를 설립했으며, 최근에도 개발 속도와 안전성이 충돌할 경우 안전을 우선하겠다는 입장을 밝혀왔습니다.
그러나 현재 앤트로픽과 오픈AI는 최첨단 인공지능 개발을 놓고 치열한 경쟁을 벌이고 있습니다. 두 회사 모두 기업공개를 준비하는 가운데 중국 인공지능 기업들과의 기술 경쟁에서도 앞서기 위해 개발 속도를 높이고 있는 상황입니다.
이러한 움직임은 햄톤로드 한인사회에도 결코 먼 이야기가 아닙니다.
햄톤로드 지역에는 뉴포트뉴스 조선소와 각종 제조업체, 의료기관, 대학 및 연구기관 등 인공지능 기술의 영향을 받을 수 있는 다양한 산업과 교육기관이 자리하고 있습니다. 인공지능이 발전할수록 소프트웨어 개발뿐 아니라 제조, 의료, 금융, 교육, 물류 등 다양한 분야에서 업무 방식이 달라질 가능성이 있습니다.
특히 햄톤로드에서 활동하는 한인 사업가와 전문직 종사자들에게도 인공지능은 새로운 기회이면서 동시에 중요한 변화 요인이 될 수 있습니다. 기업들은 인공지능을 활용해 업무 효율성을 높일 수 있지만, 개인정보 보호와 기업 데이터 보안, 인공지능이 생성한 정보의 정확성 등 새로운 문제에도 대비해야 합니다.
한인 학부모들에게도 이번 논쟁은 중요한 의미를 갖습니다. 자녀들이 앞으로 인공지능과 함께 일하게 될 가능성이 높은 만큼 단순히 인공지능을 사용하는 능력뿐 아니라 인공지능이 제공하는 정보를 검증하고 기술의 한계와 위험성을 이해하는 교육도 중요해지고 있습니다.
전문가들 사이에서도 인공지능의 발전을 중단해야 하는지, 아니면 안전장치를 강화하면서 개발을 계속해야 하는지를 놓고 다양한 의견이 나오고 있습니다. 아직 인공지능이 인간을 능가하는 초지능에 도달할 시점이나 실제로 인류에 어느 정도의 위험을 초래할지는 확정된 사실이 아닙니다.
그러나 이번 연구원의 사임은 인공지능 기술이 빠르게 발전하는 가운데 개발 속도와 안전성 사이의 균형을 어떻게 맞출 것인지가 앞으로도 중요한 사회적 논쟁이 될 것임을 보여주고 있습니다.
햄톤로드 한인사회 역시 인공지능을 단순한 최신 기술로만 바라보기보다는 경제와 교육, 일자리, 기업 운영 및 개인정보 보호에 미칠 영향을 함께 살펴볼 필요가 있습니다. 인공지능의 발전을 활용하면서도 인간의 안전과 책임 있는 기술 사용을 어떻게 보장할 것인지에 대한 사회적 논의가 더욱 중요해지고 있습니다.
