블로그

Mar 17, 2024

ChatGPT가 걱정되시나요? 망치로 ChatGPT를 사용해 보세요

Bruce Schneier Nathan Sanders 지난 3월, GPT-4가 출시된 지 불과 2주 만에 Microsoft의 연구원들은 수백만 개의 API를 컴파일할 계획을 조용히 발표했습니다.

브루스 슈나이어 네이선 샌더스

GPT-4가 출시된 지 불과 2주 만인 지난 3월, Microsoft 연구원들은 피자 주문부터 물리 방정식 풀기, 거실의 TV 제어에 이르기까지 모든 작업을 수행할 수 있는 도구인 수백만 개의 API를 하나의 API로 컴파일할 계획을 조용히 발표했습니다. 대규모 언어 모델(LLM)에서 액세스할 수 있는 개요서입니다. 이는 LLM에게 도구 조작 방법을 가르치는 가장 좋은 방법을 찾기 위한 업계 및 학계의 경쟁에서 하나의 이정표일 뿐이며, 이는 우리가 지금까지 본 어떤 인상적인 발전보다 AI의 잠재력을 더욱 강화할 것입니다.

Microsoft 프로젝트의 목표는 AI에게 모든 디지털 도구를 한 번에 사용하는 방법, 즉 영리하고 효율적인 접근 방식을 가르치는 것입니다. 오늘날 LLM은 귀하가 선호하는 식단을 설명하고 레스토랑에 전화할 때 사용할 수 있는 대화 초안을 작성하면 피자 토핑을 추천하는 일을 매우 효과적으로 수행할 수 있습니다. 하지만 대부분의 AI 도구는 온라인에서도 주문을 할 수 없습니다. 이와 대조적으로 구글의 7년 된 어시스턴트 도구는 전화 음성을 합성하고 온라인 주문 양식을 작성할 수 있지만 레스토랑을 선택하거나 주문을 추측할 수는 없습니다. 그러나 이러한 기능을 결합하면 도구를 사용하는 AI가 모든 것을 할 수 있습니다. 과거 대화와 칼로리 계산기, 레스토랑 메뉴 데이터베이스, 디지털 결제 지갑과 같은 도구에 액세스할 수 있는 LLM은 귀하가 체중 감량을 시도하고 저칼로리 옵션을 원한다고 판단하고, 좋아하는 토핑이 있는 가장 가까운 레스토랑을 찾을 수 있습니다. 을 클릭하고 배달 주문을 하세요. 귀하의 지불 내역에 접근할 수 있다면 귀하가 평소 얼마나 넉넉하게 팁을 주는지 추측할 수도 있습니다. 스마트워치나 피트니스 트래커의 센서에 접근할 수 있다면 혈당이 낮은 시기를 감지하여 배가 고프다는 사실을 깨닫기도 전에 파이를 주문할 수 있습니다.

네이선 샌더스 하버드 대학교 버크만 클라인 센터 소속의 데이터 과학자입니다. 그는 AI가 민주주의에 미치는 영향에 대해 광범위하게 글을 썼습니다.

브루스 슈나이어 보안 기술자입니다. 그는 "해커의 마음: 부유하고 강력한 사회의 규칙을 구부리는 방법 및 그들을 되돌리는 방법"을 포함하여 12권이 넘는 책을 썼습니다. 그는 하버드 케네디 스쿨에서 가르치고 있으며 매사추세츠에 거주하고 있습니다.

아마도 도구 사용의 가장 강력한 잠재적 응용은 AI가 스스로 개선할 수 있는 능력을 제공하는 것일 것입니다. 예를 들어, 누구도 모델의 원래 훈련에 포함할 수 없다고 생각했던 고대 로마법의 일부 측면을 해석하는 데 도움을 달라고 챗봇에게 요청했다고 가정해 보겠습니다. 학술 데이터베이스를 검색하고 자체 교육 프로세스를 시작할 수 있는 권한을 부여받은 LLM은 답변하기 전에 로마법에 대한 이해를 미세 조정할 수 있습니다. 전문 도구에 접근하면 이와 같은 모델이 그 자체를 더 잘 설명하는 데 도움이 될 수도 있습니다. GPT-4와 같은 LLM은 이미 질문에 대한 추론을 상당히 잘 설명하고 있지만 이러한 설명은 "블랙 박스"에서 나타나며 오류와 환각에 취약합니다. 그러나 도구를 사용하는 LLM은 자체 내부를 분석하여 자체 추론에 대한 실증적 평가와 답변을 생성한 이유에 대한 결정론적 설명을 제공할 수 있습니다.

인간의 피드백을 요청하는 도구에 액세스할 수 있다면 LLM을 사용하는 도구는 아직 웹에 포착되지 않은 전문 지식을 생성할 수도 있습니다. Reddit이나 Quora에 질문을 게시하거나 Amazon의 Mechanical Turk에서 사람에게 작업을 위임할 수 있습니다. 사용자에게 직접 답변을 제공하거나 향후 질문에 더 잘 답변할 수 있도록 자체 교육을 미세 조정하기 위해 설문 조사를 수행하여 인간 선호도에 대한 데이터를 찾을 수도 있습니다. 시간이 지남에 따라 도구를 사용하는 AI는 도구를 사용하는 인간과 매우 유사해 보일 수 있습니다. LLM은 인간 프로그래머보다 훨씬 빠르게 코드를 생성할 수 있으므로 컴퓨터의 시스템과 서비스를 쉽게 조작할 수 있습니다. 또한 사람이 사용하는 방식으로 컴퓨터의 키보드와 커서를 사용하여 사용자가 사용하는 모든 프로그램을 사용할 수 있습니다. 그리고 질문을 하고, 연구를 수행하고, 자체적으로 통합할 코드를 작성하는 도구를 사용하여 자체 기능을 향상시킬 수 있습니다.