AWS Executive Insights / 보안 / ...
생성형 AI에 대한 생각을 공유하는 보안 리더
People.ai, Trellix, Red Canary, AWS 보안 리더들과의 대화
전 세계 기업들은 생성형 AI 기술을 도입하고 경쟁 우위를 확보하기 위해 경쟁하고 있습니다. 그러나 많은 비즈니스 및 기술 리더에게 있어 올바른 사용 사례를 식별하고 어디서부터 시작해야 할지 파악하는 것은 결코 쉽지 않은 일입니다. 이 동영상에서 AWS 고객 3명과 보안 리더 3명으로부터 생성형 AI에 어떻게 접근하고 있는지 들어보세요.
비디오에서 People.AI, Trellix 및 Red Canary의 보안 리더들이 생성형 AI에 대해 어떻게 생각하는지 들어보세요. 생성형 AI의 보안 위험과 이점에 대한 생각, 그리고 어떻게 비즈니스에 생성형 AI를 활용하기 위한 안전한 방법을 찾아냈는지에 대해 나눕니다.
CISO Circle 참가자들은 생성형 AI에 대해 어떻게 생각할까요?
Danielle Ruderman(00:03):
보안과 AI는 매우 광범위한 주제이지만 CISO가 몇 가지 영역에 관심을 갖고 있다는 것을 알게 되었습니다. 그 중 하나는 유명한 대규모 언어 모델 ChatGPT입니다. 팀도, 코더도 ChatGPT를 사용하기를 원하죠. 그래서 말인데, 조직의 보안을 책임지는 CISO로서 어떤 정책과 절차를 시행 중이신가요? 팀에서 이 기능을 사용하는 것에 대해 어떻게 생각하시나요?
흥미로운 점은 많은 CISO가 팀에서 이 기능을 사용하기를 원한다는 것입니다. 그들은 이러한 도구의 잠재력을 실제로 알고 있습니다. 그래서 우리는 어떤 종류의 가드레일이 필요한지, 책임 있게 사용하는 방법에 대해 이야기합니다. 이는 매우 중요한 논의입니다.
Aman Sirohi(00:34):
AI 위험 관련 문제가 조만간 수면 위로 떠오를 것입니다. 귀사와 고객에게 미치는 이러한 위험 노출은 어느 정도일까요?
제가 알고 있는 한 모든 계약서에는 타사 데이터가 환경을 떠나 타사 소스로 이동할 수 없다고 명시되어 있습니다. 이제 어떤 AI 모델을 사용하든 관계없이 데이터는 환경을 떠나 타사 소스로 이동한 다음 다시 돌아와 답을 제공합니다. 따라서 법률이 이 위험을 바라보는 방식, 고객이 위험을 감수하는 방식, 회사가 위험을 감수하는 방식에 많은 변화가 있을 것이라고 생각합니다. 이 분야에는 많은 혁신이 발생할 것이라고 생각합니다.
Danielle Ruderman
AWS Senior Manager, WW Security Specialists
Aman Sirohi
People.ai, Chief Information Security Officer
CISO는 생성형 AI를 안전하게 활용하기 위해 어떤 방법을 찾았을까요?
Danielle Ruderman(01:19):
또한 AI의 미래가 무엇을 의미하는지에 대한 야심 만만한 생각도 볼 수 있습니다. 일부 CISO는 지금이 보안 분야에 새로운 인재 영입 규모를 확장할 수 있는 놀라운 기회라고 생각합니다.
사람들이 필요한 지식을 얻는 것과 같은 진입로가 어렵게 느껴질 수 있습니다. 하지만 이러한 도구는 초보 SOC 분석가나 기타 보안 담당자가 실제로 의지하여 필요한 도구를 얻고 더 빠르게 기술을 개발하는 데 도움이 될 수 있습니다. 이는 업계로서 더 많은 보안 전문가를 양성하는 데 큰 도움이 될 것입니다.
Martin Holste(01:45):
비즈니스 측면에서 보면 생성형 AI 사용은 필수입니다. 그렇지 않으면 뒤처지게 될 것입니다. 따라서 CISO로서, 직원들의 생산성을 높이는 동시에 안전한 방법으로 생산성을 높일 수 있는 방법을 찾아야 합니다.
저는 표준 비즈니스에서 생성형 AI를 최대한 많이 사용하는 것을 강력히 지지합니다. 그래서 저희는 생산성 향상을 위해 다양한 AI를 활용하는 방법에 관해 내부적으로 여러 교육을 실시 중입니다. 이와 더불어, 실수로 무언가를 복사하여 생성형 AI에 붙여 넣는 일이 없도록 하는 통제 시스템도 갖추고 있습니다.
Martin Holste
Trellix Cloud CTO
생성형 AI의 이점이 보안 위험보다 더 큰가요?
Danielle Ruderman (02:14):
세 번째로 매우 흥미로웠던 점은 AI가 성숙한 보안 전문가라도 자신이 해야 할 일에 집중하도록 도울 수 있다는 가능성입니다. 로그를 분석하고 Python과 같은 특정 언어로 코딩하는 방법을 배웠는데 이제 로그를 분석하고 SQL 쿼리를 작성하는 방법을 배워야 한다고 상상해 보세요. 추출을 위해서는 이렇게 서로 다른 언어를 배워야 한다는 것은 장벽으로 작용합니다. 데이터가 어디에 있는지 알더라도 다른 코드를 사용하여 데이터를 추출하는 방법을 배워야 합니다. 이런 난해한 코딩 모델을 모두 배울 필요 없이 분석을 위해 무엇을 하고 싶은지, 어떤 데이터를 취합할지 AI에게 알려줄 수 있다고 상상해 보세요.
여기에는 조사 시간을 단축하고 초급 보안 전문가부터 성숙한 전문가에 이르기까지 모든 사람이 작업을 더 빠르게 수행할 수 있도록 도와주는 강력한 기능이 있습니다.
Chris Rothe(02:58):
궁극적으로 보안의 가장 큰 문제는 구석까지 살펴볼 사람이 충분하지 않다는 것입니다. 그렇기 때문에 플랫폼과 서비스의 보안을 세밀한 단위부터 큰 단위까지 놓치지 않고 강화하는 측면에서 AWS가 수행하는 작업은 매우 중요합니다.
대체로 말하자면 Red Canary 팀 구성원 모두가 각자의 역할에 맞는 방식으로 생성형 AI를 사용했으면 합니다. 고객과 방금 통화를 잘 마쳤고 후속 이메일을 작성해야 하는 영업 사원이라면, 이 작업을 더 빠르게 처리하고 커뮤니케이션의 질을 향상시키는 데 사용할 수 있을 것입니다. 이전처럼 한 시간이 아닌 5분이면 끝나기 때문에 궁극적으로는 고객이나 여러분 모두에게 좋은 일이기 때문이죠.
이렇게 모든 사람이 안전한 방법으로 사용할 수 있도록 만들자는 것이 우리의 접근 방식이었습니다. 하지만 어떤 함정이 숨어있는지, 그리고 그와 관련된 어려움은 무엇인지 배우는 측면에서는 아직 초기 단계라고 생각합니다. 생성형 AI와 관련하여 향후 몇 년 동안 어떤 유형의 법적 문제가 제기될까요?
Chris Rothe
Red Canary Co-Founder & CTO
리더 소개
Aman Sirohi는 People.ai의 최고 정보 보안 책임자입니다. Aman은 기술, 컨설팅, 소매, 핀테크, 공급망 등 전 세계의 복잡하고 다양한 이해관계자가 존재하는 환경에서 광범위한 보안 솔루션을 구상하고 제공해 온 풍부한 경험을 지니고 있습니다. Aman은 보안에 대한 열정을 가지고 있으며 조직이 고객, 직원 및 파트너와 깊은 신뢰를 구축할 수 있도록 지원합니다. 이러한 열정으로 인해 그는 고객과 파트너에게 혁신적인 성과를 제공하는 우수한 팀을 구축하게 되었습니다. 다양한 비즈니스 경험을 갖춘 사람 중심의 리더인 Aman은 신뢰할 수 있는 조언자이자 전략적 문제 해결사로 인정받아 기업이 기대치를 높임과 동시에 고객에게 더 나은 서비스를 제공할 수 있도록 지원합니다.
Martin Holste
Trellix Cloud CTO
Martin은 CTO for Cloud로서 클라우드 보안 및 AI 제품을 설계하고, 기업 클라우드 보안 전략을 개발하며, 고객과 열정적으로 협력하여 보안 성과를 개선하는 일을 맡고 있습니다. Martin은 CTO for Cloud를 맡기 전에 기계 학습 관련 팀을 이끌었고 Trellix에서 클라우드 네이티브 Helix XDR Platform을 설립했습니다. Trellix에 합류하기 전 Martin은 위스콘신 주에서 사고 대응 팀 책임자로 근무하면서 침투 테스트, 사고 대응 및 위협 추적 분야에서 거의 10년간 경력을 쌓았습니다.
Chris Rothe
Red Canary Co-Founder & CTO
Chris는 2014년에 Red Canary를 공동 설립하고 기술 전략을 이끌며 오늘날 Red Canary가 고객을 확보하고 서비스를 제공하는 데 사용하는 많은 도구와 팀을 구축했습니다. Red Canary를 공동 설립하기 전에 Chris는 소프트웨어 개발 팀을 이끌고 국방 및 정보 커뮤니티를 위한 대규모 데이터 처리 시스템을 설계했습니다.
Danielle Ruderman
AWS Worldwide Security Specialists Senior Manager
Danielle Ruderman은 AWS Worldwide Security Specialist 조직의 Senior Manager로서 글로벌 보안 전문가 팀을 이끌고 있습니다. 2016년부터 AWS에서 근무를 시작했으며. 대기업, 스타트업 및 정부 기관에서 20년 이상의 경력을 쌓았습니다. 현재는 보안 제어를 강화하는 조직 문화를 구축하고, 보안이 비즈니스를 가능하게 하는 요소가 될 수 있도록 ‘올바른 일을 쉽게 만드는’ 시스템과 메커니즘의 설계 방법을 즐겨 논의하고 있습니다.
