[1차] 뉴스 클러스터링

문제 풀러가기

문제 설명

 여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

 개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 “카카오 신입 개발자 공채”관련 기사를 검색해보았다.

  • 카카오 첫 공채…‘블라인드’ 방식 채용
  • 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
  • 카카오, 블라인드 전형으로 신입 개발자 공채
  • 카카오 공채, 신입 개발자 코딩 능력만 본다
  • 카카오, 신입 공채.. “코딩 실력만 본다”
  • 카카오 “코딩 능력만으로 2018 신입 개발자 뽑는다”

 기사의 제목을 기준으로 “블라인드 전형”에 주목하는 기사와 “코딩 테스트”에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

 유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 “자카드 유사도”라는 방법을 찾아냈다.

 자카드 유사도는 집합간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

 예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

 자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 “1”을 3개 가지고 있고, 다중집합 B는 원소 “1”을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 “1”을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 “1”을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

 이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 “FRANCE”와 “FRENCH”가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

  • 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000이하이다.
  • 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 “ab+”가 입력으로 들어오면, “ab”만 다중집합의 원소로 삼고, “b+”는 버린다.
  • 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. “AB”와 “Ab”, “ab”는 같은 원소로 취급한다.

출력 형식

 입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1 str2 answer
FRANCE french 16384
handshake shake hands 65536
aa1+aa2 AAAA12 43690
E=M*C^2 e=m*c^2 65536

코드 1

import java.util.*;

class Solution {
  public int solution(String str1, String str2) {
    int intersection = 0;
    char[] arr1 = str1.toLowerCase().toCharArray();
    char[] arr2 = str2.toLowerCase().toCharArray();

    List<String> list1 = new ArrayList<>(1000);
    List<String> list2 = new ArrayList<>(1000);
    int largeSize = Math.max(arr1.length, arr2.length);

    for(int i = 0; i < largeSize - 1; i++) {
      if(i < arr1.length - 1 && Character.isLetter(arr1[i]) && Character.isLetter(arr1[i + 1])) {
        list1.add("" + arr1[i] + arr1[i + 1]);
      }
      if(i < arr2.length - 1 && Character.isLetter(arr2[i]) && Character.isLetter(arr2[i + 1])) {
        list2.add("" + arr2[i] + arr2[i + 1]);
      }
    }

    List<String> larger = (list1.size() > list2.size()) ? list1 : list2;
    List<String> smaller = (larger == list1) ? list2 : list1;

    for(Iterator<String> it = smaller.iterator(); it.hasNext();) {
      String str = it.next();

      if(larger.contains(str)) {
        larger.remove(str);
        it.remove();
        intersection++;
      }
    }

    int union = larger.size() + smaller.size() + intersection;

    int answer = (int)((intersection / (double)union) * 65536);

    return (intersection == 0 && union == 0) ? 65536 : answer;
  }
}

설명

 자카드 유사도를 계산하는 프로그램을 작성하는 문제이다. 자카드 유사도에 대해서는 문제에 주어져있기 때문에 그대로 만들면 된다.

 입력으로 2개의 문자열이 들어오는데 각 문자열을 두 글자씩 끊어서 다중집합의 원소로 만들어야한다. 대소문자를 무시하기 때문에 들어온 문자열을 모두 소문자로 바꾼 후 배열에 나눠서 입력한다. 배열에 저장된 문자들을 두 글자씩 묶어서 저장하기 위해 리스트를 만들고 두 배열 중 크기가 더 큰 배열의 길이를 따로 구해둔다.

import java.util.*;

class Solution {
  public int solution(String str1, String str2) {
    int intersection = 0;
    char[] arr1 = str1.toLowerCase().toCharArray();
    char[] arr2 = str2.toLowerCase().toCharArray();

    List<String> list1 = new ArrayList<>(1000);
    List<String> list2 = new ArrayList<>(1000);
    int largeSize = Math.max(arr1.length, arr2.length);

배열에 들어있는 요소가 문자인지 확인을 한 후 각각의 리스트에 저장을 해서 두 글자씩 묶어준다.

    for(int i = 0; i < largeSize - 1; i++) {
      if(i < arr1.length - 1 && Character.isLetter(arr1[i]) && Character.isLetter(arr1[i + 1])) {
        list1.add("" + arr1[i] + arr1[i + 1]);
      }
      if(i < arr2.length - 1 && Character.isLetter(arr2[i]) && Character.isLetter(arr2[i + 1])) {
        list2.add("" + arr2[i] + arr2[i + 1]);
      }
    }

합집합과 교집합을 만들어야하는데 처음 집합이 중복을 허용하는 다중집합이기 때문에 먼저 교집합을 만들어 교집합의 원소의 개수를 구한다.

    List<String> larger = (list1.size() > list2.size()) ? list1 : list2;
    List<String> smaller = (larger == list1) ? list2 : list1;

    for(Iterator<String> it = smaller.iterator(); it.hasNext();) {
      String str = it.next();

      if(larger.contains(str)) {
        larger.remove(str);
        it.remove();
        intersection++;
      }
    }

합집합의 원소 개수는 중복되는 원소의 개수와 교집합의 원소 개수를 모두 더한 것이다. 마지막으로 자카드 유사도에 65536을 곱해서 정수부만 출력한다.

    int union = larger.size() + smaller.size() + intersection;

    int answer = (int)((intersection / (double)union) * 65536);

    return (intersection == 0 && union == 0) ? 65536 : answer;
  }
}

코드2

import java.util.*;

class Solution {
  public int solution(String str1, String str2) {
    int answer = 0;
    double jakard = 0;

    ArrayList<String> set1 = new ArrayList<>();
    ArrayList<String> set2 = new ArrayList<>();

    ArrayList<String> intersection = new ArrayList<>();
    ArrayList<String> union = new ArrayList<>();

    str1 = str1.toLowerCase();
    str2 = str2.toLowerCase();

    for(int i = 0; i < str.length() - 1; i++) {
      char first = str1.charAt(i);
      char second = str1.charAt(i + 1);

      if((first >= 'a' && first <= 'z' &&)) && (second >= 'a' && second <= 'z')) {
        set1.add(first + "" + second);
      }
    }

    for(int i = 0; i < str2.length() - 1; i++) {
      char first = str2.charAt(i);
      char second = str2.charAt(i + 1);

      if((first >= 'a' && first <= 'z' &&)) && (second >= 'a' && second <= 'z')) {
        set2.add(first + "" + second);
      }
    }

    Collections.sort(set1);
    Collections.sort(set2);

    for(String s : set1) {
      if(set2.remove(s)) {
        intersection.add(s);
      }
      union.add(s);
    }

    for(String s : set2) {
      union.add(s);
    }

    if(union.size() == 0) {
      jakard = 1;
    } else {
      jakard = (double)intersection.size() / (double)union.size();
    }

    answer = (int)(jakard * 65536);

    return answer;
  }
}

설명2

 위에 작성한 코드와 조금 다르게 풀어본 코드이다. 먼저 두 문자열의 다중집합을 구한다. 조건은 위와 마찬가지로 대소문자 구분없이 영문자만 유효하게 두 글자씩 끊어서 만든다.

import java.util.*;

class Solution {
  public int solution(String str1, String str2) {
    int answer = 0;
    double jakard = 0;

    ArrayList<String> set1 = new ArrayList<>();
    ArrayList<String> set2 = new ArrayList<>();

    ArrayList<String> intersection = new ArrayList<>();
    ArrayList<String> union = new ArrayList<>();

    str1 = str1.toLowerCase();
    str2 = str2.toLowerCase();

    for(int i = 0; i < str.length() - 1; i++) {
      char first = str1.charAt(i);
      char second = str1.charAt(i + 1);

      if((first >= 'a' && first <= 'z' &&)) && (second >= 'a' && second <= 'z')) {
        set1.add(first + "" + second);
      }
    }

    for(int i = 0; i < str2.length() - 1; i++) {
      char first = str2.charAt(i);
      char second = str2.charAt(i + 1);

      if((first >= 'a' && first <= 'z' &&)) && (second >= 'a' && second <= 'z')) {
        set2.add(first + "" + second);
      }
    }

두 집합의 교집합과 합집합을 구하는데 중복원소의 처리를 위해 정렬을 먼저한다. 다음 집합1의 원소를 하나씩 꺼내 집합2에 포함되는지 확인한다. 이 때 포함되면 교집합에 넣고 집합2에서 지운다. 그리고 집합2에 포함여부와 관계없이 합집합에 집어 넣는다. 다음 집합2에 남은 원소를 모두 합집합에 넣는다. 마지막으로 자카드 유사도를 구하고 65536을 곱한 후 정수부만 출력한다.

    Collections.sort(set1);
    Collections.sort(set2);

    for(String s : set1) {
      if(set2.remove(s)) {
        intersection.add(s);
      }
      union.add(s);
    }

    for(String s : set2) {
      union.add(s);
    }

    if(union.size() == 0) {
      jakard = 1;
    } else {
      jakard = (double)intersection.size() / (double)union.size();
    }

    answer = (int)(jakard * 65536);

    return answer;
  }
}