IBM TechXchange Korean CyberSecurity User Group (한국 사이버보안 사용자 그룹)

IBM TechXchange Korean CyberSecurity User Group (한국 사이버보안 사용자 그룹)

This online user group is intended for IBM Security product users in Korea to communicate with IBM experts, share advice and best practices with peers and stay up to date regarding product enhancements, regional user group meetings, webinars, how-to blogs and other helpful materials.

 View Only

악성 챗봇 해킹 사고 주의하기

By Kyoyoung Choi posted Mon January 29, 2024 09:51 PM

  

악성 챗봇 해킹 사고 주의하기

Beware of rogue chatbot hacking incidents

수년 동안 챗봇은 고객 대면 애플리케이션을 자동화하는 데 유용한 도구였습니다. 하지만 챗봇이 악의적으로 변질되면 어떻게 될까요?

최근 보고서에 따르면 Comcast / Xfinity 챗봇에서 이런 일이 발생했을 수 있는 것으로 나타났습니다. 먼저 Xfinity 이메일이 중단되는 사고가 발생한 다음, 채팅을 통해 문제를 해결하려고 하면 악성 챗봇이 개입하여 사용자와 소통할 수 있다는 보고가 있었고, 사칭 챗봇은 고객의 신용카드 번호 공개를 요청하는 악성 홈페이지로 리디렉션을 시도합니다.

3,590만 명의 Comcast Xfinity 광대역 엔터테인먼트 플랫폼 고객이 관련된 대규모 침해 사건과 관련이 있을까요? 이 이야기는 아직 진행 중이지만, 온라인 사기에 챗봇이 이용된 것은 이번이 처음은 아닐 것입니다.

챗봇이 멀웨어를 유포하거나 민감한 정보를 빼내는 데 사용되는 방법은 다양합니다. 다음은 주의해야 할 사항입니다.

For years, chatbots have been a useful tool to help automate customer-facing applications. But what happens if the chatbot goes rogue?

Recent reports have revealed that this may have happened to the Comcast / Xfinity chatbot. First, there were incidents of Xfinity email outages. Next, some reported that if you try to resolve the issue via chat, a rogue chatbot may engage with you. The impersonator chatbot then tries to redirect you to a malicious page that asks you to divulge your credit card number.

Could this be related to the massive breach that involved 35.9 million Comcast Xfinity broadband entertainment platform customers? While this story is still developing, it wouldn’t be the first time chatbots were recruited for online scams.

There are a variety of ways chatbots are being used to spread malware and/or obtain sensitive information. Here’s what to watch out for.

Bing 해킹

Hacking Bing

Bing Chat은 빠르게 세계 최고의 AI 챗봇 중 하나가 되었습니다. 매일 수백만 명의 사람들이 사용하고 있습니다. Bing Chat의 한 가지 기능은 대화에 광고를 삽입할 수 있다는 것입니다. 예를 들어, 사용자가 링크 위에 마우스를 올리면 광고가 표시됩니다.

Malwarebytes Bing Chat 광고가 악의적인 행위자에 의해 하이재킹된 사례를 보고했습니다. 이 사기에서는 사용자가 합법적인 링크 위에 커서를 올리면 악성 광고를 보여주는 대화 상자가 나타납니다:

Bing Chat has quickly become one of the world’s leading AI chatbots. Millions of people use it every day. One feature of Bing Chat is that ads can be inserted into the conversation. For example, a user can hover over a link and then an ad is displayed.

Malwarebytes reported on a case where Bing Chat ads were being hijacked by nefarious actors. In this scam, when the user’s cursor hovers over a legitimate link, a dialog box appears showing a malicious ad:

Image source Malwarebytes

악성 광고를 클릭하면 실제 피해자를 식별하고 봇, 샌드박스 또는 보안 연구원을 필터링할 수 있는 웹사이트(mynetfoldersip[.]cfd)로 연결됩니다. 필터링은 IP 주소, 시간대, 가상 머신을 식별하는 웹 렌더링과 같은 기타 시스템 설정을 확인하여 작동합니다.

실제 사용자는 결국 공식 페이지를 모방한 다른 가짜 사이트(advenced-ip-scanner[.]com)로 리디렉션되고, 다른 사용자는 미끼 페이지로 전송됩니다. 그런 다음 피해자는 합법적인 소프트웨어처럼 보이는 멀웨어를 다운로드 하도록 유도됩니다.

Clicking on the malicious ad leads users to a website (mynetfoldersip[.]cfd) that can identify real victims and filter out bots, sandboxes or security researchers. Filtering works by checking IP addresses, time zones and other system settings, such as web rendering that identifies virtual machines.

Actual human users are eventually redirected to another fake site (advenced-ip-scanner[.]com) that mimics an official page, while others are sent to a decoy page. Victims are then invited to download malware that looks like legitimate software.

가짜 AI 챗봇 사기

Fake AI chatbot scams

사기꾼들은 또한 Google의 바드와 같은 AI 챗봇의 인기가 높아지는 것을 이용하고 있습니다. 이러한 해킹은 현재 제공되는 AI 관련 제품 및 서비스의 쓰나미에 쉽게 섞여 있기 때문에 놓치기 쉽습니다.

구글에 따르면, 두 개의 서로 다른 사기 그룹이 소셜 미디어 페이지를 만들고 사람들에게 바드를 '다운로드'하도록 유도하는 광고를 게재했습니다. 그러나 Bard는 다운로드할 필요가 없는 무료로 제공되는 생성 AI 도구입니다.

사기꾼들은 그들의 계획의 일환으로 Google의 로고, 상표, 제품명을 사용했습니다. 이 광고는 Google과 제휴한 것처럼 보이도록 설계된 가짜 웹사이트로 대상을 유인합니다. 이 사이트에서는 방문자가 Bard를 사용하기 위해 소프트웨어를 다운로드하도록 유도하지만, 실제로는 멀웨어입니다.

한 가지 주목할 점은 구글이 악의적인 행위자를 당국에 신고하는 데 그치지 않고 소송을 제기했다는 점입니다. Google "소송은 법적 판례를 확립하고, 사기꾼이 사용하는 도구를 방해하며, 악의적인 행위자에 대한 처벌 수위를 높이는 데 효과적인 도구"라고 말합니다. Google에 따르면 이 악의적 행위자 그룹과 관련하여 약 300건의 게시 중단 조치를 취했다고 합니다.

Scammers are also taking advantage of the rising popularity of AI chatbots, like Google’s Bard. It’s easy to miss these hacks as they easily blend in with the tsunami of AI-related products and services offered now.

According to Google, two different scammer groups created social media pages and ran ads that encouraged people to “download” Bard. But Bard is a freely available generative AI tool that does not need to be downloaded.

Scammers used Google’s logos, trademarks and product names as part of their scheme. The ads lure targets to a phony website designed to look like it’s affiliated with Google. On the site, visitors are encouraged to download software to use Bard, but it’s really malware.

It’s worth noting that Google is suing the bad actors instead of just reporting them to the authorities. The company says that “lawsuits are an effective tool for establishing a legal precedent, disrupting the tools used by scammers, and raising the consequences for bad actors.” According to Google, they have filed roughly 300 takedowns related to this group of bad actors.

기타 챗봇 사기

Other chatbot scams

일부 챗봇 기반 사기는 실제 챗봇이 아닙니다. 한 사기에서는 범죄자들이 DHL을 사칭하여 피싱 이메일을 보냈습니다.

Some chatbot-based scams aren’t really chatbots at all. In one scam, criminals sent phishing emails impersonating DHL.

Image source: Trustwave

이 악성 링크는 가짜 챗봇으로 연결되어 결국 사용자의 이메일과 비밀번호와 같은 민감한 정보를 요청했습니다:

From there, the malicious link connected to a fake chatbot that eventually requested sensitive information like the user’s email and password:

Image source: Trustwave

신용카드 정보도 요청했습니다.

And credit card data, of course…

Image source: Trustwave

비슷한 사기가 계정 취소 메시지로 위장하여 Facebook 사용자를 유인하고 있습니다. 이 경우 실제 Facebook 챗봇이 사용되어 민감한 정보를 요청하는 가짜 사이트로 리디렉션합니다.

A similar scam has also been luring Facebook users under the guise of an account cancellation message. In this case, an actual Facebook chatbot is used, which then redirects targets to a fake site that asks for sensitive information.

Image source: Trustwave

사용자가 비밀번호를 알려주도록 유도하는 방법은 다음과 같습니다:

Here’s how they try to get users to give up their passwords:

Image sources Trustwave

주의해서 챗봇을 사용하기

Use chatbots with caution

모든 온라인 참여와 마찬가지로 챗봇과의 상호 작용은 최대한 주의해야 합니다. 개인 정보를 클릭 또는 다운로드하거나 제공하기 전에 항상 두 번, 심지어 세 번 생각해야 합니다.

As with any online engagement, interacting with a chatbot should be done with the utmost caution. Always think twice, or even three times, before you click, download or provide private personal information.

https://securityintelligence.com/articles/rogue-chatbot-hacking-incidents/

0 comments
5 views

Permalink