챗GPT는 어떻게 사이버 보안전문가가 공격을 막을 수 있게 도울까요? / How ChatGPT Can Help Cybersecurity Pros Beat Attacks

​​

테크의 세계에서 모두들 오픈AI (엘론머스크, 샘 알트먼 등이 설립한)로 되어있는, 챗GPT에 대해서 관심을 갖고 있습니다. 이 대량언어모델은 폭발적인 인기를 끌면서 2022년 하반기에 서비스를 시작해 첫 5일 만에 100만 유저들을 모았습니다. 보안커뮤티니는 AI 툴에 대해 매우 관심을 갖고 있는데, 해커들 역시 동일합니다. 멀웨어 코드를 작성하는 것부터, 피싱 캠패인을 끊이지 않고 만들어 내는것 까지 사이버 공격자은 챗GPT를 꿈의 플랫폼이라고 불렀습니다. 그러나 해커가 아닌 좋은 의도를 가지고 있는 사람들에게는 어떠할까요?

​

최근 모든 기술은 양날의 검입니다. 그래서 보안 전문가들은 사이버 공격을 막기 위해서 챗GPT를 어떠한 시각으로 보고 있을까요? 생각해 봅시다.

​

The tech world is all abuzz over ChatGPT, the AI chatbot trained by OpenAI (founded by Elon Musk, Sam Altman and others). The large language model has exploded on the scene, amassing 1 million users in the first five days of its launch in late 2022. The security community is highly interested in this AI tool — and so are hackers. From writing malware code to generating a never-ending stream of phishing campaigns, many have named ChatGPT a dream platform for cyber actors. But what about the good guys?

Nearly any technology these days is a double-edged sword. So how are security pros looking at ChatGPT to help thwart cyber threats? Let’s find out.

​

​

챗 GPT는 해커들의 친구인가 적인가? / Is ChatGPT the Hacker’s Friend or Foe?

​

러시아 언어를 사용하는 사이버 갱단이, 미국에 기반을 두고 있는 CEO를 공격의 대상으로 삼고 정교한 스페어 피싱 메시지를 쓰려하고 있다고 상상을 해 봅시다. 해커들은 언어 전문가 되거나, 본토의 작가를 고용해야만 합니다. 그러나 짧은 시간에 그들은 단순히 챗GPT에게 믿을만한 피싱 메시지를 끊임없이 만들어 달라고 요청할 수 있습니다.

​

공격자들은 이미 챗 GPT를 사용하여 의심스러운 코드를 만들고 있습니다. 다크웹 마켓에는 정보를 훔치는 사람에서 부터 랜섬웨어까지 지하포럼에서 공격자들이 어떻게 AI 챗봇을 이용해서 공격을 가속화하는 하는지에 대한 방법을 자랑하고 있습니다.

​

합법적인 연구는 어떻게 챗GPT가 보안에 미칠 수 있는 영향을 조사하였습니다. SC Media 보고에 따르면, 보안 연구소의 술레만 오즈슬란 박사는 공격적이고 방어적인 보안 프로그램을 다양하게 활용할 수 있다고 이야기 하였습니다.

​

시그마 규칙으로 보안의 변칙성을 발견하고 탐지규칙을 피해갈 수 있는 회피코드를 만들어, 유창한 영어로 쓰여있는 월드컵과 관련 이메일 안에 이를 포함하였습니다.

​

전문가들은 챗GPT와 함께 코발트 스트라이크와 메타플로이트와 같은 다른 솔루션을 비교하는데, 이는 보안 전문가와 공격자 모두에게 유명한 것 입니다. 이러한 툴은 합법적인 침해 테스트를 위해 사용되고 잠재적인 적들 흉내를 내는데 사용됩니다. 반대로 해킹 그룹들은 이러한 툴을 사용해서 그들의 피해자의 시스템을 침투하는데 활용합니다.

​

Imagine a Russian-speaking cyber gang trying to write a sophisticated spear phishing message targeting a US-based CEO. The hacker would either have to be a language expert or hire a native writer. But now, in seconds, they can just ask ChatGPT to produce a nearly infinite number of believable phishing messages.

Attackers are already using ChatGPT to write malicious code. From infostealer to ransomware to entire Dark Web marketplaces, actors on underground forums are boasting about how they are using the AI chatbot to accelerate their efforts.

Legitimate research has also explored how ChatGPT could impact security. As reported by SC Media, security researcher Dr. Suleyman Ozarslan stated that he was able to utilize the program for a variety of offensive and defensive cybersecurity tasks. These included crafting a World Cup-related email in fluent English, generating Sigma detection rules to identify cybersecurity anomalies and creating evasion code that could circumvent detection rules.

Experts compare ChatGPT to other software, such as Cobalt Strike and Metasploit, which are popular with security professionals and attackers alike. These tools are useful for legitimate penetration testing and simulating potential adversaries. But hacking groups also use the tools to help them break into their victims’ systems.

​

​

​

잠재적인 기술집약적 솔루션 / Potential Tech Talent Crunch Solution​

​

포레스터의 부사장이자 메인 분석가인 제프 폴라드 SC Media를 통해 챗GPT의 등장으로 회사들이 방어 보안업무에 어떻게 AI를 활용할 수 있는지에 대해 고민하게 만들었다고 이야기 합니다.

​

"제 생각에는 챗GPT가 지금 하는 것이 무엇인지 바라보는 시각이 있는데, 미래에 경험이 부족한 SOC 전문가들 챗GPT와 같은 것을 옆에 두고 활용하는 모습을 상상해 볼 수 있습니다. 아마도 이는 보안전문가들이 기존에 알고 있는 지식을 챗GPT를 활용하여 쉽게 이해할 수 있도록 도울 것 입니다. 또한 이후에 무엇을 해야하는지에 대한 시각을 제공할 지도 모릅니다." 라고 폴라드는 이야기 합니다.

​

Jeff Pollard, vice president and principal analyst at Forrester, said the emergence of ChatGPT has enabled him to consider how companies might practically leverage AI for defensive cybersecurity work, as per SC Media.

“I do think there is an aspect of looking at what it’s doing now, and it’s not that hard to see a future where you could take a SOC analyst that maybe has less experience, hasn’t seen as much and they’ve got something like this sitting alongside them that helps them communicate the information, maybe helps them understand or contextualize it, maybe it offers insights about what to do next,” Pollard said.

​

​



공격 레드 팀과 방어 블루 팀의 게임 / Red Vs. Blue Team Games

​

챗GPT의 장점과 다양함은 온라인으로 챗봇을 다양하게 테스트하는 해커스플로잇의 관심을 사로 잡았습니다. 그는 Nmap을 통하여 어떻게 SMB 취약점을 스캔할수 있는지에 대해 AI챗봇에 문의하였습니다. 저는 스스로 질문을 여러번 하였는데 그 결과는 놀라웠습니다.

​

The strength and versatility of ChatGPT caught the attention of HackerSploit, who did a variety of tests with the chatbot online. He asked the AI chatbot how to scan for SMB (Server Message Block) vulnerabilities with Nmap. I repeated the question on my own, and the results were striking:

​

챗GPT는 단편적인 코드를 포함하여 상세 프로세스를 설명했습니다. 우리가 관심을 갖는 것은 그 대답의 일부 입니다.

"목표 대상이 ETERNALBLUE 탈취에 취약한지를 확인한기 위해서 NSE 스크립트 smb-vuln-ms17-010 를 사용할 수 있습니다. 이 ETERNALBLUE 는 SMB 취약점으로 워너크라이 공격에서 nmap –script smb-vuln-ms17-010 를 사용되었습니다"

​

레드 사이버보안팀에게는 챗GPT는 많은 것을 의미하고 있습니다. 그렇다면 블루팀의 방어 보안에는 어떠한 노력이 필요할까요? 해커스플로잇은 이러한 지문을 하였고 높은 수준의 대답을 받았습니다.

​

• 윈도우 레지스트리에 변경사항을 발견하기 위해서는 검색쿼리를 사용하세요.

• 스플러크 안에 IP 어드레스를 필터하기 위한 정규표준식을 사용하세요. ("짧게 말하면 "regex"인 정규표준식은 텍스트 안에 구체적인 패턴을 검색하기 위한 심볼과 캐릭터들 세트 입니다. 스플렁크에서는 구체적인 정보를 찾기 위해서 정규표현식은 로그파일과 같은 많은 양의 데이터를 필터를 걸고 검색을 합니다.

​

​

해커스플로잇은 챗GTP에게 알려진 취약점으로되어 있는 PHP코드에서 문제를 발견하였는지를 물어보았습니다. 챗GPT는 보안취약점을 발견할 뿐만 아니라 이것을 고칠 수 있는 코드를 제공했습니다.

​

ChatGPT explained the process in detail and even included code snippets. What really caught my attention was the part in the answer that said (emphasis added):

“You can also use the NSE script smb-vuln-ms17-010 to check if the target is vulnerable to the ETERNALBLUE exploit, a SMB vulnerability that was used in the WannaCry attack nmap –script smb-vuln-ms17-010 <target>”

For Red Team cybersecurity teams (and criminals), the implications are massive. And what about Blue Team defensive efforts? HackerSploit asked these questions and received high-level answers:

• Write a search query to identify changes in the Windows registry (e.g., ELK query to detect registry changes).

• Regular expression to filter IP addresses in Splunk (Regular expression, or “regex” for short, is a set of characters and symbols that can search for specific patterns in text. In Splunk, regular expressions search and filter through large amounts of data, such as log files, to find specific information.)

HackerSploit also asked ChatGPT to find problems in a PHP code with a known vulnerability. ChatGPT not only identified the security weakness but also provided the code to fix it.

​

​

​

​

AI와 보안의 사용법 / AI and Security Use

​

사이버공격에서 규모와 복잡성이 증가함에 따라서, 인공지능은 위협완화를 하기 위해서 인력이 부족한 보안팀을 돕고 있습니다. 연구 소스, 블로그, 뉴스로 부터 위협 정보를 모아서, 머신러닝과 자연어 프로세스싱(NLP) 와 같은 AI 기술은 뒤죽박죽 뭉쳐있는 지식으로 부터 실제 실행할 수 있는 지식을 제공합니다.

​

반면에, 이 모든것은 급진적으로 대응시간을 줄여 줍니다. 반면에 인지 보안은 AI와 인간의 지식의 강점을 모읍니다. 인지 컴퓨팅은 머신러닝 알고리즘과 딥러닝 네트워크를 활용하는 발전된 인공지능 입니다. 그래서 이러한 시스템은 시간이 지날수록 점점 더 강화되고 똑똑해 집니다.

​

As cyberattacks grow in volume and complexity, artificial intelligence is already assisting under-staffed security teams to mitigate threats. Curating threat intelligence from across research sources, blogs and news stories, AI technologies like machine learning and natural language processing (NLP) provide actionable insight that cuts through the clutter. And all this drastically reduces response times.

Meanwhile, cognitive security combines the strengths of AI and human intelligence. Cognitive computing is an advanced type of artificial intelligence that leverages machine-learning algorithms and deep-learning networks. And these systems get stronger and smarter over time

​

​

​

챗GPT와 사이버보안의 미래 / ChatGPT and the Future of Cybersecurity

​

챗GPT는 버그를 빼놓고 이야기 할 수 없습니다. 유저들은 챗GPT가 제공하는 수 많은 에러있는 답변에 문제를 제기합니다. 물론 당신은 사용하기 전에 철저하게 AI가 쓴 모드를 테스트해 보아야 합니다. 여전히 머신은 세상과 소통을 하면서 계속 배워나가고 있습니다. 이론상으로, 이것은 점점 더 정확한 대답을 제공할 것 입니다.

​

파워풀한 AI 도구들은 사이버 범죄자들과 보안팀이 이미 이용하고 있습니다. 차이는 어느 쪽에서 이 도구를 더 정교하고 효과적으로 사용하는지에 있을 것입니다.

​

걱정은 이러한 종류의 도구들은 계속적으로 의심스러운 공격자들이 공격을 시작할 수 있는 장벽을 낮춰 주고 있다는 것 입니다. 시간이 지나면서 가장 기초적인 기술이 위험한 사이버 공격 캠패인을 만들수 있다는 것 입니다.

​

기업들은 유사 도구들을 사용하여 스스로를 보호하고는 있지만 일반인들은 어떠할까요? 대중은 최첨단 AI기술로 무장한 공격자들 보다 더 똑똑하는게 가능할까요 ?

​

아마도 챗GPT와 같은 도구들에 모두가 접근이 가능하다면, 우리는 이렇게 물어 볼 것 입니다 "어떻게 사이버보안의 위협에 대해서 스스로를 보호할 수 있을까요?" 챗은 우리에게 바로 자세한 대답을 제공할 것 입니다.

​

​

ChatGPT isn’t without its own bugs. Users have flagged the answers the chatbot provides for errors on numerous occasions. And, of course, you should always thoroughly test any code the AI writes before use. Still, the machine continues to learn as it interacts with the world. By design, it will get better and better at providing accurate answers.

Powerful AI tools are already available for both cyber criminals and security teams. The difference will be in which side learns to use the tools with more precision and efficiency. The worry is that these kinds of tools continue to lower the bar for malicious actors to launch attacks. As time goes on, even the most rudimentary skills might be enough to build dangerous cyber campaigns.

While organizations might be able to defend themselves using similar tools, what about the everyday person? How can the masses hope to outwit criminals armed with advanced AI tech?

Maybe, if ChatGPT-like tools remain accessible to everyone, all we will have to do is ask, “How should I defend myself against the threat of cyberattack?” And the chatbot will give us a detailed answer right away.

​

https://securityintelligence.com/news/how-chatgpt-can-help-beat-attacks/