보호, 출처 및 프롬프트: YouTube의 Angela Nakalembe

화학 엔지니어 교육을 받은 Angela Nakalembe는 과학 및 경영 컨설팅 분야에서 근무한 후 신뢰와 안전을 위한 회사의 엔지니어링 프로그램 관리자로 YouTube에 합류했습니다.

Angela는 YouTube에서 AI가 유해한 콘텐츠에 대한 최전선 방어선이 되었다고 설명합니다.

구독하기 나, 나 자신, 그리고 AI ~에 애플 팟캐스트 또는 스포티파이.

성적 증명서

앨리슨 라이더: 화학 엔지니어가 신뢰와 안전을 위한 프로그램 관리 분야에서 일하게 된 계기는 무엇입니까?

안젤라 나칼렘베: 저는 YouTube의 Angela Nakalembe입니다. 여러분이 듣고 있는 내용은 다음과 같습니다. 나, 나 자신, 그리고 AI.

샘 랜스보텀: 에 오신 것을 환영합니다 나, 나 자신, 그리고 AI, 님의 팟캐스트 MIT 슬론 경영 리뷰 인공지능의 미래를 탐구하다. MIT SMR 2014년부터 연구 기사, 연간 업계 보고서, 사례 연구, 그리고 현재 12개 시즌의 팟캐스트 에피소드를 제공하고 있습니다.

안녕하세요, 청취자 여러분.

안젤라 나칼렘베: 초대해주셔서 고마워요, 샘.

샘 랜스보텀: 일반적으로 몇 가지 배경 지식부터 시작하지만 YouTube에 대해 모르는 청취자가 있다는 것은 정말 상상하기 어렵습니다.

안젤라 나칼렘베: YouTube는 사람들이 관심 있는 주제에 대해 동영상을 공유할 수 있는 온라인 커뮤니티로 약 20년 전에 시작된 온라인 동영상 공유 플랫폼입니다. 곧 Google(Alphabet)에 인수되었습니다.

제가 YouTube에서 구체적으로 하는 일은 YouTube의 신뢰 및 안전 부서에서 뒤에서 일하는 것입니다. 엔지니어링 프로그램 관리자로서 저는 증오심 표현, 잘못된 정보, 노골적인 콘텐츠 등으로부터 플랫폼을 안전하게 유지하는 데 도움이 되는 많은 도구와 기능 출시를 감독하는 책임을 맡고 있습니다. 이러한 도구와 기능 출시 중 상당수는 현재 AI를 사용하고 있습니다.

샘 랜스보텀: 당신은 그것을 티업했습니다.

안젤라 나칼렘베: 우리가 AI를 사용하는 방법 중 하나는 기본적으로 콘텐츠 조정 노력을 강화하여 훨씬 더 빠르면서도 훨씬 더 인간적으로 만드는 것입니다.

하지만 이제 AI와 기계 학습을 통해 우리는 이를 실제로 변화시키고 리뷰어의 역할을 발전시켜 그들이 혼자 작업하는 것이 아니라 이러한 AI 도구와 함께 작업하도록 할 수 있습니다.

따라서 이러한 AI 모델이 수행하는 작업을 검증하기 위한 단계로 인간 검토자가 여전히 필요하지만 더 이상 그 무게와 부담을 혼자서 짊어질 필요는 없습니다.

또한 보고된 많은 문제나 사례에 대한 처리 시간이 훨씬 빨라졌다는 사용자나 제작자로부터 많은 긍정적인 피드백을 받고 있습니다.

샘 랜스보텀: 우리 가족 친구 중 경찰관이 있었는데, 그는 경찰에서 보고 싶지 않은 일을 처리하는 부서에서 일했습니다.

[이제] 당신이 여기서 언급한 것이 이해가 되네요. 당신에 대한 이 아이디어는 어떤 의미에서 인간 노동자를 대체하고 있으며, 그곳은 인간이 무언가를 하는 것을 정말로 원하지 않는 곳입니다.

안젤라 나칼렘베: 이러한 인간 중재자가 여전히 엄청나게 필요합니다. 그렇죠?

샘 랜스보텀: 동시에 우리는 콘텐츠를 큐레이팅하는 데 소요되는 시간에 대해 이야기하고 있었으며 제출 횟수가 줄어들고 있지는 않습니다.

안젤라 나칼렘베: 정말 좋은 지적이네요.

이는 YouTube뿐만 아니라 AI의 등장으로 인해 우리가 어려움을 겪고 있는 큰 문제입니다.

우리는 잘못된 정보의 확산을 방지하고 사람들이 자신이 소비하는 콘텐츠 제작 방식을 더 잘 알 수 있도록 할 수 있는 방법을 고민하는 데 YouTube에서 많은 시간을 투자했습니다.

이는 기본적으로 게시자, 제작자 및 소비자가 관찰하는 모든 콘텐츠의 출처를 확립할 수 있는 개방형 기술 표준입니다.

이것이 우리가 완화하는 방법 중 하나입니다.

하지만 8개월이 지난 후, 샘, 제가 본 동영상이 몇 개 있는데, 얼핏 보면 AI가 제작한 것인지 알 수 없었습니다.

샘 랜스보텀: 출처에 대해 언급해주셔서 기쁘네요. 일반적으로 비디오뿐만 아니라 우리가 작업하는 모든 종류의 데이터에 출처가 큰 문제라고 생각하기 때문입니다.

어떤 의미에서 YouTube가 갖고 있는 시장 지배력으로 인해 많은 부담이 귀하에게 닥치고 귀하가 하는 일은 결국 시장에서 어느 정도 사실상의 표준이 되며 귀하에게 더 많은 압력을 가하지는 않지만 말입니다.

안젤라 나칼렘베: 촬영된 항목이 없습니다.

샘 랜스보텀: 당신이 하고 있는 일은 그곳에서 매우 중요합니다.

안젤라 나칼렘베: 예.

샘 랜스보텀: YouTube에 입사하게 된 계기에 대해 간략하게 알려주세요.

안젤라 나칼렘베: 제 배경은 말씀하신 대로 둘 다 화학공학 전공자이고 화학에 대한 열정이 있었습니다.

그래서 저는 엔지니어링에서 경영 컨설팅으로 전환했습니다.

소비자 기술과 마찬가지로 산업 측면에서도 항상 진화하고 있기 때문에 기술 분야에서 일하는 것이 즐거웠다는 사실을 알게 되었습니다.

그것은 매우 보람있고, 쉽게 찾아낼 수 있을 때 매우 좋습니다.

그래서 유튜브에 오게 됐고, 여러 곳을 뛰어다니다가 신뢰와 안전함에 빠지고 정말 사랑에 빠졌어요.

정말 만족스러운 작업이에요.

샘 랜스보텀: 엔지니어링에 관해 말씀하시는 동안 몇 가지 유사점을 발견했습니다.

안젤라 나칼렘베: 네.

샘 랜스보텀: 이것이 바로 전 세계 엔지니어들이 끊임없이 좌절하고 있는 이유입니다. 그들이 자신의 일을 한다는 사실은 아무도 그것에 대해 모른다는 것을 의미하기 때문입니다.

안젤라 나칼렘베: 나는 그것을 우리가 일을 잘하고 있다는 신호로 생각하고 "그거 알아? 아무도 우리에 대해 이야기하지 않는다면 그건 우리가 해야 할 일을 정확히 하고 있다는 뜻이고, 스스로를 격려해야 한다는 뜻이야."라고 스스로 훈련해야 했습니다.

샘 랜스보텀: 전통공학과 다른 점은 토목공학, 화학공학과 같이 전통공학에는 원칙이 확립되어 있다는 것입니다.

안젤라 나칼렘베: 응, 100%야.

저는 주말 동안 Google DeepMind Lab의 도구 중 하나를 사용하여 앱을 만들었습니다.

제 이야기처럼 저는 화학 공학으로 시작했고 지금은 신뢰와 안전 속에 있습니다.

샘 랜스보텀: 당신은 거기에 몇 가지 고상한 아이디어를 가지고 있지만 나는 돌아가서 당신을 밀어야합니다.

안젤라 나칼렘베: 확신하는.

샘 랜스보텀: 그 앱은 무엇이었나요?

안젤라 나칼렘베: 나는 다음에 내 머리로 무엇을 하고 싶은지 알아내려고 노력하고 있었습니다.

샘 랜스보텀: 현장에 바로 보내주셔서 잘 응해주셨네요.

안젤라 나칼렘베: 나는 여기서 약간의 접선으로 갈 수도 있습니다.

샘 랜스보텀: 내 수업이라면 숙제를 하는 거야.

안젤라 나칼렘베: 그거 알아?

2024년 1위 사용 사례는 아이디어 창출이었습니다.

상위 3가지를 살펴보면... 앞서 우리 커뮤니티가 어떻게 점점 더 온라인화되고 있는지 언급했습니다.

그럴 것 같지만 실제로는 그렇지 않습니다.

인지 보안의 개념으로 돌아가서, AI 도구를 사용하여 AI가 유용하고 인간 중심적인 상태를 유지하도록 하는 것은 우리에게 매우 중요하지만 AI가 인간인 척하는 것을 원하지 않습니다.

샘 랜스보텀: 즉, 당신이 말한 내용으로 돌아가서 기술에 대해 더 많이 배우고 그것이 어떻게 작동하는지 배우고 그것이 좋은 것과 좋지 않은 것을 배우는 것은 그것이 실제로 기계이지 관계에 대한 실제 사람이 아니라는 것을 이해하는 것과 매우 관련이 있습니다.

우리가 가지고 있는 것 중 하나는 제가 여러분에게 빠른 질문을 하는 부분이 있다는 것입니다.

안젤라 나칼렘베: 좋아요.

샘 랜스보텀: 인공지능으로 인해 예상했던 것보다 더 빠르게 또는 느리게 움직이는 것은 무엇입니까?

안젤라 나칼렘베: 텍스트를 비디오로, 텍스트를 이미지로, 그리고 그 정확성이었습니다.

샘 랜스보텀: AI가 무엇을 더 잘할 수 있었으면 좋겠나요?

안젤라 나칼렘베: 때때로 나는 프롬프트 엔지니어링에 많은 노력을 기울여야 한다고 생각합니다. 그리고 우리가 거기에 도달하는 것은 정말 시간 문제일 뿐이라고 생각합니다. [언제] 프롬프트에 대해 너무 자세하거나 구체적일 필요는 없을 것입니다.

샘 랜스보텀: 인공지능에 대해 당신을 좌절시키는 것은 무엇입니까?

안젤라 나칼렘베: 나를 좌절시키는 것은 무엇입니까?

샘 랜스보텀: AI를 사용하는 가장 좋은 방법은 무엇입니까?

안젤라 나칼렘베: 이 앱은 재미있는 방법이었습니다.

나는 일반적으로 인생 계획이 그것을 환상적인 용도로 사용한다고 생각합니다.

그런 다음 작업 관점에서 볼 때 새로운 노력을 강화하고 우리가 하려는 것이 무엇인지 실제로 이해하려고 노력하는 것과 같을 수 있습니다.

짧은 시간에 정보를 수집하고 작업 속도를 높일 수 있는 정말 좋은 방법이었습니다. 정말 훌륭했습니다.

샘 랜스보텀: 정말 훌륭해요.

안젤라 나칼렘베: 응.

샘 랜스보텀: 오늘 함께해주셔서 정말 감사드립니다.

안젤라 나칼렘베: 물론.

샘 랜스보텀: 들어주셔서 감사합니다.

앨리슨 라이더: 들어주셔서 감사합니다 나, 나 자신, 그리고 AI.