abusesaffiliationarrow-downarrow-leftarrow-rightarrow-upattack-typeburgerchevron-downchevron-leftchevron-rightchevron-upClock iconclosedeletedevelopment-povertydiscriminationdollardownloademailenvironmentexternal-linkfacebookfiltergenderglobegroupshealthC4067174-3DD9-4B9E-AD64-284FDAAE6338@1xinformation-outlineinformationinstagraminvestment-trade-globalisationissueslabourlanguagesShapeCombined Shapeline, chart, up, arrow, graphLinkedInlocationmap-pinminusnewsorganisationotheroverviewpluspreviewArtboard 185profilerefreshIconnewssearchsecurityPathStock downStock steadyStock uptagticktooltiptwitteruniversalityweb

이 내용은 다음 언어로도 제공됩니다: English

브리핑

2023년 12월 12일

실리콘밸리의 어두운 이면: 벤처자본, 인권, 그리고 인권실사의 부족

Amnesty International & BHRRC

벤처투자자(VCs, Venture capitalists)들은 기술혁신의 방향에 상당한 영향력을 행사하며, 이들의 초기단계 투자결정은 어떤 기술이 시장에 통용될지에 큰 역할을 한다. 한편, 벤처투자자들이 수익성을 우선순위로 둘 때, 심각한 인권위험이 간과되게 된다. 최근 생성형 AI(Generative AI)에 쏟아지고 있는 상당수준의 투자자본과 그 기술이 우리의 경제, 민주주의, 그리고 사회 전반에 미칠 영향을 고려할 때, 벤처투자자들은 편향되거나 아직 저개발된 AI 시스템의 배치와 개발의 촉진을 피하는 책임있는 투자를 우선시 하여야 할 것이다.

관련하여 기업과인권리소스센터는 미국 앰네스티 인터네셔널(Amnesty International)과 함께 생성형 AI에 가장 적극적으로 투자를 하고 있는 10대 벤처캐피탈 펀드 및 세계 최대규모 1,2위를 차지하는 스타트업 엑셀러레이터(초기 창업자 선발, 투자, 교육 전문기업)를 대상으로, 생성형 AI 시스템 개발기업 투자에 대한 인권실사 수행정도를 평가하는 조사를 실시하였다.

조사 결과, 선도적 벤처캐피탈(VC) 기업들은 특히 최신 생성형 AI 기술과 관련하여 인권존중 책임을 다하지 않고 있는 것으로 나타났다.

이들 선도적 벤처캐피탈 기업들은 UN기업과인권이행원칙(UNGP)에서 기업에 규정하는 바에 따라 투자대상 기업과 기술들이 인권을 존중하는지 여부에 대한 기본적인 인권실사를 시행하고 있지 않는 것으로 나타났다. 이는 생성형 AI기술이 우리의 경제, 정치, 사회의 변화에 미치는 잠재적 영향을 고려할 때 매우 우려가 되는 부분이다.

금번 조사의 대상이 된 벤처캐피탈 및 스타트업 엑셀러테이터 기업들은 모두 미국에 본사를 두고 있으며, 사명은 각각 인사이트 파트너스(Insight Partners), 타이거 글로벌 매니지먼트(Tiger Global Management), 세콰이어 캐피탈(Sequoia Capital), 안드레센 호로위츠(Andreessen Horowitz), 라이트스피드 벤처 파트너스(Lightspeed Venture Partners), 뉴엔터프라이즈 어소시에이트(New Enterprise Associates), 베스머 벤처파트너스(Bessemer Venture Partners), 제너럴 카탈리스트 파트너스(General Catalyst Partners), 파운더스 펀드(Founders Fund), 테크놀로지 크로스오버 벤처(Technology Crossover Ventures), 테크스타(Techstars), 그리고 와이 콤비네이터 (Y Combinator)이다.

생성형 AI는 우리 삶 모든 영역에 잠재적인 영향을 미칠 수 있는 혁신적 기술이 될 것이다. 이 신흥기술은 새로운 기회를 제공하지만, 이를 마냥 방치한다면 인권을 유린할 상당한 위험을 내포하고 있기도 하다. 벤처캐피털 기업들은 생성형 AI 기술에 많은 투자를 하고 있는 바, 이 투자자본이 책임감있고 인권을 존중하는 방식으로 사용될 수 있도록 하여야 할 것이다.
마이클 클레이만(Michael Kleinman), 미국 앰네스티인터네셔널 실리콘밸리이니셔티브 책임

2023년 챗지피티(ChatGPT) 출시 이래, 생성형 AI에 대한 투자는 ‘채울 수 없는 욕망’이라고 표현되어 올 정도로 급증하였다. 2023년 상반기에만 생성형 AI 기반의 툴과 솔루션은 전년 대비 5배 이상 급증하였으며, 벤처캐피탈 기업들은 이에 핵심적인 역할을 한 바 있다. 전세계 생성형 AI시장 규모가 2032년까지 2,073억 달러에 이를 것으로 예상되는 가운데, 일부에서는 생성형 AI가 차세대 “무기경쟁”의 연료라는 전망을 내놓고 있기도 하다.

생성형 AI와 연관된 심각한 인권위험

생성형 AI는 신체적, 심리적 피해 및 명예훼손, 사회적 낙인, 경제적 불안정, 자율성 및 기회상실 및 개인과 특정 공동체에 대한 체계적 차별을 더욱 강화할 위험이 있다. 이 보고서는 아래 내용을 포함하는 인권위험 중 가장 심각한 내용들에 대한 자세한 조사 및 에시를 제공한다.

  • 개인정보 및 사생활보호 권리의 남용
  • 편향적 알고리즘 및 고정관념 지속화
  • 잘못된 정보 및 허위정보 증폭
  • 신체적 안전, 정신건강 및 인간의 존엄성 위협
  • 노동권 침해

주요 확인내용

금번 조사결과 대부분의 선도적 벤처캐피탈 기업 및 스타트업 엑셀러레이터들은 생성형 AI 스타트업 투자시 인권존중 책임을 다하지 않는 것으로 나타났다.

  • 조사의 대상이 된 12개 기업 중 3개기업만이 생성형 AI 스타트업 투자시 인권존중책임을 고려하겠다는 공약을 제시하고 있었다.
  • 조사의 대상이 된 12개 기업 중 1개기업만이 인권존중에 대한 공역을 제시하고 있었다.
  • 조사의 대상이 된 12개 기업 중 1개기업만이 기업투자시 인권관련 실사를 이행하고 있다고 밝혔다.
  • 조사의 대상이 된 12개 기업 중 1개기업만이 검토대상기업에 대해 책임있는 기술 관련 지원을 제공하고 있다고 밝혔다.

금번의 조사는 벤처캐피탈 기업들이 UN기업과인권이행원칙(UNGP)를 준수할 것을 촉구한다. UNGP는 투자자와 피투자기업 모두가 생성형 AI의 잠재적 및 실제적 인권영향을 파악하고 대응하기 위해 사전적, 지속적 조치를 취하여야 한다고 규정하고 있다. 이러한 조치에는 기업의 인권영향 관련 확인, 예방, 완화 및 규명에 관한 인권실사 이행이 포함된다.

물론 이러한 신기술들은 인간중심적 접근방식을 통해 설계되었을 때 엄청난 잠재력을 가지고 있다고 할 수 있다. 그러나 불행히도 현재까지 생성형 AI와 관련된 논의들은 대부분 인간, 특히 소외집단을 희생하여 이익을 극대화하는 것으로 연결되곤 하였다. 아직 투자자, 기업, 정부 그리고 인권의 권리담지자인 개인 모두가 이 기술이 어떻게 설계, 개발, 배치되도록 할 지에 대한 통제를 되찾을 시간이 있다. 생성형 AI가 아닌 인간이 결정해야 할 특정 문제들이 존재한다는 것이다.
메러티스 베이트(Meredith Veit), 기업과인권리소스센터 기술과 인권 담당 연구원

참고 자료

Failing Grade (낙제점)

사학에서 벤처 캐피털 펀드에 투자할 때 인권실사를 하지 않는 문제점을 보고한 앰네스티 인터네셔널(Amnesty International) 리포트

테크놀로지 기업 대시보드

80개 이상의 테크놀로지 기업에 대한 리소스센터 대시보드

보안감시 기술 생태계 탐색하기

투자자를 위한 인권실사 가이드