바뀔 내용:
한국어 커뮤니티 Bumble이 오늘 새로운 인공지능(AI) 기능을 도입한다고 발표했습니다. 이 기능은 스팸, 사기, 가짜 프로필 식별에 도움을 주는 것이 목적으로 하는데요. “기만 탐지기”라고 불리는 이 새로운 도구는 사용자들이 Bumble을 사용하기 전에 유해한 콘텐츠를 감지하는 것을 목표로 합니다.
테스트 중에 Bumble은 이 도구가 스팸이나 사기로 인식된 계정의 95%를 자동으로 차단한다는 것을 발견했습니다. 또한 테스트를 시작한 지 2개월 이내에 “기만 탐지기” 덕분에 스팸, 사기 그리고 가짜 계정과 관련된 사용자 신고가 45% 줄어들었습니다. 이 도구는 인간의 모디레이션과 함께 작동합니다.
이 새로운 기능 도입은 Bumble이 내부 연구를 통해 기반을 두었습니다. 이 연구에서는 가짜 프로필과 사기 위험은 온라인 데이팅에 관련된 사용자들의 가장 큰 우려사항이라는 것을 밝혀냈습니다. 또한 여성의 46%가 데이팅 앱에서 온라인 연결의 진짜성에 대한 우려를 표명했다는 결과도 나왔습니다.
“Bumble의 미션은 공정한 관계를 구축하고 여성들이 첫 번째 움직임을 할 수 있도록 자신감을 북돋우는 것입니다. 기만 탐지기 도구는 우리 앱을 통해 이루어지는 연결들이 진짜성을 유지할 수 있도록 하는데, 이는 우리가 커뮤니티에 대한 지속적인 헌신의 일환으로서의 최신 혁신입니다.”라고 Bumble의 CEO인 리디안 조너스가 말했습니다.
연방국민위원회(FTC)에 따르면 지난해 로맨스 사기로 인한 피해는 13억 달러로 나타났으며, 평균 손실은 4,400달러입니다. 보고서에 따르면 사기꾼들은 자주 데이팅 앱을 이용해 사람들에게 돈을 요구하지만, 개인적인 메시지를 통해 개인을 대상으로 한 건은 더 흔한 사례입니다. 예를 들어, 로맨스 사기 피해자 중 40%는 사기 연락이 소셜미디어 사이트에서 시작되었다고 밝혔으며, 19%는 웹사이트나 앱에서 시작되었다고 말했습니다.
이 새로운 도구는 Bumble 앱을 더 안전하게 만들기 위한 최신 AI 기능입니다. 2019년에 Bumble은 “Private Detector” 기능을 도입했는데, 이 기능은 음란한 사진을 자동으로 흐려지게 하고 채팅에서 해당 사진임을 표시하여 사용자가 해당 사진을 볼지 여부를 선택하거나 신고할 수 있게 해줍니다.
또한 Bumble은 친구를 찾는 데 전념한 Bumble for Friends 앱에서도 AI를 사용합니다. 이 앱은 최근에 상대방의 프로필을 기반으로 한 최초 메시지를 작성하고 전송하는 데 도움을 주는 AI 생성 최초 메시지 제안을 도입했습니다. 사용자는 질문을 변경하거나 대체 제안을 요청할 수 있지만, 한 번에 한 개의 AI 생성 최초 메시지만 사용할 수 있습니다.
Private Detector와 Deception Detector는 Bumble과 Bumble for Friends 모두에서 사용되고 있음을 유의해야 합니다.
자주 묻는 질문(FAQ):
Q: “기만 탐지기”는 어떻게 작동하나요?
A: “기만 탐지기”는 합작하여 인간의 모디레이션을 수행하는 도구입니다. 이 도구는 스팸, 사기, 가짜 계정을 식별하는데 사용됩니다.
Q: “Private Detector”와 “Deception Detector”는 어떤 차이가 있나요?
A: “Private Detector”는 음란한 사진을 감지하고 무작위 사용자에게서 채팅에서 해당 사진의 뷰잉 여부를 결정할 수 있도록 도와주는 반면, “Deception Detector”는 스팸, 사기, 가짜 계정을 식별하고 차단하는 데 도움을 줍니다.
Q: “기만 탐지기” 도구로 얼마나 많은 스팸과 사기 계정을 차단할 수 있나요?
A: “기만 탐지기” 도구는 95%의 스팸이나 사기로 인식된 계정을 자동으로 차단할 수 있습니다.
Q: Bumble은 어떻게 사용자들의 연결을 진짜로 유지하려고 노력하고 있나요?
A: Bumble은 “기만 탐지기”와 “Private Detector”를 사용하여 사용자들의 연결이 진짜로 유지되도록 노력하고 있습니다. 이러한 도구들은 스팸, 사기, 가짜 계정을 차단하거나 음란한 콘텐츠를 감지하여 사용자들에게 더 안전한 경험을 제공합니다.
The source of the article is from the blog papodemusica.com