GenAI: AI 보안 위협의 새로운 개척지
GenAI: The next frontier in AI security threats
공격자들이 아직 대규모로 GenAI를 공격하고 있지는 않지만 인공지능 보안 위협은 점점다가오고 있습니다. 이 예측은 2024 X-Force 위협 인텔리전스 인덱스로부터 나온 것입니다. 이 보고서를 뒷받침하는 위협 인텔리전스 유형에 대한 리뷰에 대해 살펴보세요.
Threat actors aren’t attacking generative AI (GenAI) at scale yet, but these AI security threats are coming. That prediction comes from the 2024 X-Force Threat Intelligence Index. Here’s a review of the threat intelligence types underpinning that report.
사이버 범죄자들의 포커스 이동
Cyber criminals are shifting focus
불법 시장과 다크 웹 포럼에서 채팅이 증가하는 것은 주목할 만한 신호입니다. X-Force는 아직 AI를 이용한 캠페인을 발견하지 못했습니다. 하지만 사이버 범죄자들은 이 영역에 대해 적극적으로 탐색하고 있습니다. 2023년에 X-Force는 다크 웹 포럼과 불법 마켓에서 80만 개 이상의 게시물에서 "AI"와 "GPT"라는 용어가 언급된 것을 발견했습니다. 이러한 활발한 활동은 정확한 관심 척도를 제공합니다. 지금 당장은 공격이 일어나지 않겠지만 관심이 높다는 것은 기초 작업과 계획 단계에 있음을 나타냅니다.
Increased chatter in illicit markets and dark web forums is a sign of interest. X-Force hasn’t seen any AI-engineered campaigns yet. However, cyber criminals are actively exploring the topic. In 2023, X-Force found the terms “AI” and “GPT” mentioned in more than 800,000 posts on dark web forums and illicit markets. That high level of activity provides an accurate gauge of interest. These attacks may not be happening now, but this interest indicates groundwork and planning phases.
AI 시장의 통합이 전환점이 될 것
The consolidation of the AI market will mark a turning point
공격자는 사업자처럼 범죄 기업을 운영합니다. 그들은 계획과 인프라에 투자하기 전에 ROI를 보장받기를 원합니다. 오늘날에는 너무 많은 GenAI 툴과 플랫폼이 많은 기업에 퍼져 있습니다. X-Force는 단일 기술이 50%의 시장 점유율을 차지하거나 3개 이하의 기술이 시장을 장악할 정도로 시장이 성숙해지면 사이버 범죄자들이 공격을 시작할 것이라고 예상합니다. ROI를 달성하려면 GenAI가 전 세계 기업 전반에 보편화되어야 합니다. 보편화되지 않으면 공격에 많은 시간과 비용이 소요됩니다. 시장이 좁아지면 GenAI 공격이 본격적으로 시작될 것입니다.
Threat actors run criminal enterprises like businesses. Before investing in plans and infrastructure, they want assurances of ROI. Today, there are too many GenAI tools and platforms spread across too many companies. X-Force believes that once the market matures to where a single technology dominates a 50% market share or when three or fewer technologies corner the market, then cyber criminals will launch attacks. To achieve ROI, GenAI needs to be ubiquitous across enterprises worldwide. Without ubiquity, attacks cost too much time and money. When the market narrows, GenAI attacks will start in earnest.
Explore AI cybersecurity solutions
과거는 서막에 불과하다
Past is prologue
이전의 위협들도 비슷한 수명 주기를 가졌습니다. X-Force는 시장 통합과 성숙도가 중요한 역할을 한다고 판단합니다. X-Force는 10년 넘게 기술 혁신과 위협 성숙도를 평가해 왔습니다. 올해의 지수는 시장 점유율 50%라는 지표가 사이버 위협 주기에 미치는 영향을 보여주는 세 가지 설득력 있는 사례를 제시합니다. 첫 번째는 Windows Server 시장 지배력으로 인해 POS(Point-of-Sale) 멀웨어와, AD에 의존하는 이들이 조작하는 랜섬웨어 공격이 개발되었습니다. 다음으로, Microsoft 365의 시장 점유율이 50%에 가까워지면서 비즈니스 이메일 침해(BEC) 사기가 전면 등장했습니다. 마지막으로, 서비스형 인프라(IaaS) 통합으로 암호화폐 채굴 멀웨어가 악용을 주도했습니다. 이러한 사례에 대한 자세한 내용은 보고서 전문에 포함되어 있으며 꼭 읽어보시기 바랍니다.
Previous threats had similar life cycles. X-Force believes market consolidation and maturity play a role. X-Force has assessed tech disruption and threat maturity for over a decade. This year’s index offers three compelling examples that show the 50% market share milestone has on cyber threat cycles. Their first example is Windows Server market dominance, which triggered the development of point-of-sale (POS) malware and human-operated ransomware attacks that relied on Active Directory. Next, business email compromise (BEC) scams moved to the forefront when Microsoft 365 approached a 50% market share. Finally, Infrastructure-as-a-Service (IaaS) consolidation drove crypto mining malware exploits. The in-depth detail of these examples is contained in the full report and is worth a read.
AI 도입이 보안 대책를 앞지르게 될 것.
AI adoption will outpace security measures
위협 지수 보고서에 따르면, " 현재GenAI 도입을 서두르는 움직임이 이러한 새로운 기능으로 인해 발생하는 보안 위험을 이해하는 업계의 능력을 능가하고 있습니다.." 신기술 도입은 기업 내 감독과 규제가 덜한 초기 단계에서 더 자유롭고 실험적인 경향이 있기 때문에 이러한 속도 차이는 새로운 기술에서 흔히 발생합니다. 또한, 새로운 기술일수록 잠재적인 취약성과 이를 방지하기 위해 필요한 보안 조치에 대한 기업의 인식이 낮습니다. 공격의 여파로 인해 보안 허점이 드러나는 경우가 많습니다.
As the threat index report notes, “the rush to adopt GenAI is currently outpacing the industry’s ability to understand the security risks these new capabilities will introduce.” This outpacing is common with new technology because tech adoption tends to be more freewheeling and experimental in early phases with less oversight and regulation within a company. Plus, the newer the tech, the less aware companies are about potential vulnerabilities and what it would take to secure against them. It’s often in the aftermath of attacks that security holes become obvious.
다가오는 AI 보안 위협에 어떻게 대비해야 할까?
AI security threats are coming. How can you prepare?
AI 보안 위협이 확산됨에 따라 AI시대의 보안 강화는 이미 널리 요구되고 있습니다.. 아직 GenAI 공격이 대규모로 일어나고 있지는 않지만, 그 시기는 빠르게 다가오고 있습니다. 사고 대응 계획을 수립하세요. 또는 이미 IR 계획이 있는 경우, AI 공격과 관련된 세부 사항을 포함하도록 계획을 확장하세요. 이러한 세부 사항에는 알려진 취약점 추적 및 방어, AI에 익숙한 대응 팀 구성원 추가, AI 모델 및 데이터 세트에 대한 데이터 보호 강화 등이 포함될 수 있습니다. 비즈니스에 맞는 맞춤형 계획이 필요하지만, 대응 시간을 단축하고 피해를 빠르게 복구하며 공격으로부터 대응하는 것이 목표가 되어야 합니다. 공격이 발생했을 경우 대응팀을 준비할 수 있도록 연습 세션과 훈련을 포함하세요.
X-Force는 또한 AI 보안이 AI 자체보다 더 광범위하다는 점을 인식하고 안전한 AI 비즈니스 모델을 수립할 것을 권장합니다. 생성형 AI 보안을 위한 IBM 프레임워크가 하나의 모델입니다. 이 프레임워크에는 학습 데이터, AI 모델, 이 두 가지를 모두 지원하는 인프라 보안이 포함됩니다. AI의 주요 이점은 운영 비즈니스 업무의 부담을 덜어줄 수 있다는 점입니다. AI 거버넌스는 AI 모델이 원래 설계 목적에서 벗어나지 않고 예상대로 작동할 수 있도록 운영 가드레일을 제공합니다.
IBM X-Force 위협 인텔리전스 인덱스 2024는 비즈니스가 직면한 가장 즉각적인 위협을 해결하는 방법과 지금 계획할 수 있는 미래 위협에 대한 인사이트와 권장 사항을 제공합니다. 보고서를 다운로드하여 다가올 GenAI 보안 위협에 지금 바로 대비하세요.
Better security in the AI era is a widely recognized need as AI security threats proliferate. Even though GenAI attacks aren’t happening at scale yet, the time is fast approaching. Put an incident response plan in place. Or, if you already have an IR plan, expand it to include specifics related to AI attacks. Those specifics might include tracking and defending against known vulnerabilities, adding response team members familiar with AI and increasing data protections for your AI models and data sets. You need a plan customized to your business, but the goals should be to reduce your response time, remediate the damage and recover from the attack. Include practice sessions and drills to prepare your response team for when these attacks happen.
X-Force also recommends that you establish secured AI business models that recognize that AI security is broader than AI itself. The IBM Framework for Securing Generative AI is one model. This framework includes securing training data, AI models and the infrastructure that supports both. A key benefit of AI is being able to offload operational business tasks. AI governance provides operational guardrails to ensure your AI model doesn’t stray from its original design purpose and acts as expected.
The IBM X-Force Threat Intelligence Index 2024 provides insights and recommendations for how to address the most immediate threats your business faces and the future threats you can plan for now. Download the report so you can prepare now for the GenAI security threats to come.
![]()
genai | generative ai | generative artificial intelligence | Artificial Intelligence (AI)
https://securityintelligence.com/articles/gen-ai-next-ai-security-threat/