[Corporate] The Bletchley Declaration - why does it matter for global Artificial Intelligence (AI) safety?

Bletchley Declaration은 무엇인가요?

Bletchley Declaration(이하 “본건 협약”)은 안전하고 책임 있는 인공지능의 개발 및 활용을 위해 세계에서 처음으로 체결된 협약입니다. 본건 협약은 2023년 11월 1일 AI Safety Summit 2023에서 서명되었으며 인공지능의 안전한 개발을 위한 세계적 협력관계 구축을 목표로 하고 있습니다.

어떤 국가들이 본건 협약에 서명했나요?

본건 협약에는 영국, 미국, 한국, 중국, 일본, 인도, 캐나다, 호주 및 EU 가입국을 비롯한 28개국이 서명하였습니다. 해당 국가들은 본건 협약 서명을 통해 인공지능의 안전하고 책임 있는 개발로 세계 사회에 발전을 추구한다는 목표를 확인했습니다.

본건 협약의 주된 초점은 어디에 있나요?

본건 협약은 ‘frontier AI’를 안전하고 책임 있게 규제하는 데에 주된 추점을 두고 있습니다. 본건 협약은 ‘frontier AI’를 다음과 같이 규정하고 있습니다.

“고차원적인 기능의 다목적 AI model로써 다양한 작업을 수행할 수 있는 foundation model을 포함한다”

현재로서 frontier AI는 가장 높은 위험성을 지니고 있으며, 이에 따라 규제가 시급히 필요한 것으로 인식되어 왔습니다.

본건 협약의 목표는 무엇인가요?

본건 협약의 주요 목표는 다음과 같이 4개로 구분할 수 있습니다.

1. 국제적 협력 – 본건 협약은 인공지능이 지니고 있는 글로벌 리스크에 대응하기 위한 국제적 협력관계의 필요성을 강조합니다. 서명국은 비례적인 조치를 통해 혁신을 권장하고 인공지능의 리스크를 합리적으로 통제함과 동시에, 인공지능의 장점을 개발할 수 있는 규제 조치의 중요성을 인식할 필요가 있습니다.
2. 리스크 파악 – 본건 협약은 공정성, 신뢰성, 규제, 안전, 인권, 개인정보 보호 등에 관련하여 인공지능이 지니고 있는 리스크를 명시하였습니다. 또한 본건 협약은 사용자의 의도, 사이버 보안, 바이오기술 및 의도적인 오용에 의한 통제의 문제를 리스크로 지적하였습니다.
3. 리스크 관리 – 본건 협약은 인공지능과 연계된 리스크가 평가 시스템, 안전 테스트 및 이와 관련한 조치를 통해 관리될 수 있음을 명시했습니다.
4. 인공지능의 가능성에 대한 탐구 – 본건 협약은 부동산, 노동, 교통, 교육, 의료 및 사법 등의 분야에서 인공지능의 활용 현황을 확인하였으며, 특히 의료 및 교육과 같은 공공 서비스에서의 활용 가능성을 강조하였습니다. 또한 본건 협약은 United Nations Sustainable Development Goals 와 중첩되는 식량 안보, 재생 가능 에너지 등의 목표를 이루는 대에 인공지능이 활용될 수 있는 가능성을 확인하였으며 이는 ESG 목표와 일부 겹치는 부분이 있습니다.

무엇이 합의되었나요?

본건 협약은 인공지능이 지니고 있는 가능성과 리스크에 대해 인식하고, 세계 각국의 정부들이 인공지능과 관련된 문제에 대해 안전하고 책임 있는 기술 개발이 이루어질 수 있도록 하는 규제의 필요성을 인식하였습니다.

본건 협약은 두 개의 주요 사안에 대한 공감대를 형성하였습니다. 첫 번째로, 인공지능이 가지고 있는 세계적인 가능성과 리스크. 두 번째로, 인공지능은 더 이상 추상적인 미래의 개념이 아닌 이미 실생활에서 다양하게 활용되고 있는 기술이라는 점입니다.

이와 함께 본건 협약은 개발도상국과 현재 인공지능을 활용할 수 있는 능력을 지닌 국가들 사이의 협력을 통해 그들 간의 간극을 줄이는 것을 강조했습니다. 또한 새로운 공동 협약을 통해 인공지능을 안전하고 책임 있는 자세로 개발하여 세계 사회에 도움이 될 수 있도록 하는 대에 초점을 두었습니다.

미래에 어떠한 변화가 일어날까요?

본건 협약은 인공지능의 긍정적인 발전 가능성을 명시하며 인공지능 개발을 독려하였습니다. 하지만 이와 동시에 본건 협약은 책임 있는 자세로 국가 간의 원활한 소통, 연구 및 협력을 통해 인공지능을 긍정적으로 활용하는 것이 중요함을 강조하였습니다. 대한민국은 추후 6개월 이내에 mini(virtual) AI Summit을 개최합니다. 본건 협약이 서명된 AI Security Summit은 연간 행사로써 개최될 전망이며 프랑스가 다음 2024년 Summit을 개최할 것으로 예상됩니다.

How 3CS can help

저희 기업법 및 컴플라이언스 담당 변호사들은 영국 국, 내외의 다양한 경험을 바탕으로 종합적인 기업법 및 규제 컴플라이언스 법률 자문을 제공합니다. 인공지능과 관련하여 추가적으로 궁금하신 사항이나 인공지능의 기업에 어떻게 영향을 끼칠지 관하여 궁금하신 점을 비롯하여, 기타 기업법 관련 법률 자문이 필요하시다면 다음을 통해 연락 주십시오.