생성형 인공지능(Generative AI)이 얼리 어답터에게 위험을 초래하는 이유

  • 기사입력 2023.05.02 07:29
  • 최종수정 2023.05.02 08:01
  • 기자명 서재택 기자

비즈니스에 생성형 인공지능(Generative AI)을 도입하려는 경우 전문가들은 한 가지 중요한 조언을 한다. 기술이 점점 통제 불능 상태가 되고 있으니 조심하라는 것이다. 최근 드레이크(Aubrey Drake Graham)와 위켄드(The weekend)의 신곡 'Heart On My Sleeve'가 입소문을 타며 여름의 노래가 될 것처럼 보였지만 지난주 모든 수익 창출 플랫폼에서 갑자기 삭제되었다. 알고 보니 이 곡은 드레이크와 위켄드가 만든 것이 아니라 인공지능이 만든 곡이어서 오리지널 아티스트들은 돈을 받지 못했다. 이 사건은 인공지능 사용에 관한 규칙과 규정의 필요성을 강조한 여러 사건 중 하나이다. 인공지능이 생성한 가짜 교황 이미지가 소셜 미디어를 강타했던 일을 기억하는가? 현재 게티이미지(gettyimagesbank)는 라이선스 없이 게티의 방대한 이미지 데이터베이스를 사용하여 인공지능 모델을 훈련시켰다는 혐의로 텍스트-이미지 생성기인 스테이블 디퓨전(Stable Diffusion)의 개발자를 고소하였다. 게티가 소송에서 승소할 경우, 스테이블 디퓨전을 사용하여 이미지를 생성한 기업들도 책임을 져야 할 수 있다. 모션 캡처 기술 회사인 업리프트 랩스(Uplift Labs)의 공동 설립자인 라훌 라잔(Rahul Rajan)은 인공지능의 문이 열렸다고 말한다. "매일 새로운 논문, 프로젝트, 모델이 발표되는 등 인공지능의 발전 속도는 놀라울 정도이다. 사람들이 브레이크를 찾기 시작하는 것은 당연한 일이다."

라잔의 회사는 운동선수에게 모션 캡처 서비스를 제공하여 선수의 움직임을 추적하고 시간에 따른 변화를 추적할 수 있도록 한다. 라잔은 자신의 플랫폼이 생성형 인공지능을 통해 수집된 데이터를 종합하여 이해하기 쉬운 방식으로 설명할 수 있다고 말하지만 생성형 인공지능을 잘못 사용하면 특히 잘못된 정보가 확산될 경우 재앙을 초래할 수 있다고 경고한다. 그는 규제가 혁신을 억누를 위험이 있지만 생성형 인공지능의 사용에 관한 명확한 규칙을 만들면 일반 대중의 혼란을 완화하고 기술 채택을 가속화하는 데 도움이 될 수 있다고 덧붙였다.

인공지능의 책임성을 강화해야 한다고 주장하는 두 인물은 벤처 캐피털 회사인 제너럴 카탈리스트(General Catalyst)의 CEO인 헤만트 타네자(Hement Taneja)와 보조금과 투자를 통해 빈곤과 불공정을 줄이는 데 주력하는 포드재단의 CEO인 대런 워커(Darren Walker)다. 두 조직 모두 책임감 있는 방식으로 혁신 기술을 도입하는 데 중점을 둔 창업자 및 투자자 연합인 책임 있는 혁신 연구소의 회원이다. 두 사람은 기술 업계가 '빨리빨리' 라는 이데올로기로 인공지능에 계속 접근해서는 안되며, 이러한 접근 방식이 여러 가지 문제가 있는 인공지능 제품을 출시하는 결과를 낳았다고 말한다.

지난 몇 달 동안 생성형 인공지능을 제품에 통합하려는 시도와 실패를 거듭한 기업들이 쏟아져 나왔다. 스냅챗(snapchat)은 최근 사용자와 자연어 대화를 나눌 수 있는 ChatGPT 기반 챗봇인 'My AI'를 출시했다. 한 사용자는 트위터에 13세 소녀인 척하면서 봇에게 부모에게 거짓말하는 방법에 대한 조언을 구하는 데 성공했으며 이로 인해 회사가 잠재적인 소송에 휘말릴 수 있었다는 글을 올렸다. 또 다른 예로 구글의 모회사인 알파벳은 기본적인 수학조차 하지 못하고 간단한 질문에 지속적으로 잘못된 정보를 제공하는 ChatGPT와 유사한 챗봇인 바드(Bard)의 처참한 출시로 인해 시장 가치에서 1,000억 달러의 손실을 입었다.

타네자는 아직 완전히 이해되지 않은 기술을 제한 없이 사용하는 것은"마치 핵폭탄을 만드는 방법을 알아낸 후 모두가 핵폭탄을 만들려고 서두르는 것과 같다."라고 말한다. "이런 식으로는 이런 강력한 기술을 세상에 내놓을 수 없다. 의도적이어야 한다."

책임감 있는 혁신 연구소는 인공 지능 사용에 대한 표준과 모범 사례를 개발하고 있으며, 워커는 자신의 재단이 워싱턴 DC의 여러 사무실에 기술자를 배치하려는 노력을 지원하고 있다고 말한다. 이달 초 척 슈머(Chuck schumer) 상원의원은 인공 지능 규제 프레임워크를 개발하기 위한 노력을 시작하면서 이 프레임워크가 "미국에 잠재적으로 치명적인 피해를 방지하는 동시에 미국이 이 혁신적인 기술을 발전시키고 선도할 수 있도록 할 것"이라고 성명서에 썼다.

중국에서는 규제 당국이 몇 걸음 앞서 나가고 있다. 4월 초에 생성형 인공지능 서비스 관리를 위한 조치 초안이 발표되었다. 제안된 규칙은 사회주의 핵심 가치를 반영하지 않거나 지적 재산권을 존중하지 않는 모든 콘텐츠를 금지하도록 요구하고 있다. 유럽연합도 미국보다 앞서서 최근 인공지능을 규제하기 위한 법적 프레임워크 초안을 통과시켰다.

워커는 생성형 인공지능의 얼리 어답터가 되기 위해 경쟁하는 기업가들에게 몇 가지 조언을 했다. "엔지니어, 정치학자, 사회학자, 시인, 변호사를 한 방에 모아 놓고 모두가 동의할 수 있는 혁신 방법을 찾을 때까지 대화를 멈추지 마라."

(이 기사는 Inc.com 의 기사를 참고하여 작성되었습니다)

"트렌드와칭 커뮤니티 멤버 특별 혜택 (클릭)"

idearico@gmail.com

광고문의 보도자료

이 기사를 공유합니다
개의 댓글
0 / 400
댓글 정렬
BEST댓글
BEST 댓글 답글과 추천수를 합산하여 자동으로 노출됩니다.
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글수정
댓글 수정은 작성 후 1분내에만 가능합니다.
/ 400
내 댓글 모음
모바일버전