[프로그래머스] 뉴스 클러스터링(2018 KAKAO BLIND RECRUITMENT)

https://programmers.co.kr/learn/courses/30/lessons/17677

코딩테스트 연습 - [1차] 뉴스 클러스터링

문제 설명

뉴스 클러스터링

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

• 카카오 첫 공채..'블라인드' 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. "코딩 실력만 본다"
• 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

풀이

일단 문자를 분류하는 과정에서 크게 두 가지 방법을 생각했는데. 첫쨰는 정규표현식을 사용하는 것이고, 두 번째는 아스키 코드로 변환 후 푸는 것이었다 문제에서 영문자만 취급하기 때문에 아스키 코드를 사용하는 것이 훨 수월할것이라 판단되어 ord()를 이용하였다. 먼저 str1, str2에 대하여 두 글자씩 끊어서 리스트에 저장해주었고, 만약 ord()로 변환해주었을 때 65와 122 사이에 있으면(영문자면) 리스트에 넣어주었다. 여기서 잘못 생각한 것이 예제 8번이 통과가 되지 않길래 확인해봤더니 언더바('_')를 필터링 해주지 못하고 있었다. 확인 결과 언더바의 아스키 코드는 95로 내가 설정한 범위 내에 있었다. 조건에 95가 되지 않는 경우를 넣어주니 해결되었다. 그 다음 문제에서 요구하는 것은 다중 집합에 대하여 교집합과 합집합을 구해야하는 것이므로 set를 사용할 수 없었다. 생각을 해보니 만약 둘이 공통된 원소를 가지고 있다면 각 집합에서 원소의 개수 중에서 더 작은 편이 교집합 속에 포함이 되고, 더 큰 값은 합집합에 포함이 된다. 둘이 공통적으로 가지고 있지 않은 원소는 당연히 합집합에 포함이 된다. 이렇게 각 리스트에서 원소가 출현하는 개수를 구하기 위해 Counter 모듈을 사용하였다. 딕셔너리 형태로 원소의 개수를 받아오고, key를 순차적으로 스캔하면서 만약 s1에 있다면 그 중 더 작은 값은 difference에 더해주고, 큰 값은 union에 넣어주었다. 여기서 Counter로 반환한 딕셔너리랑 일반적인 딕셔너리랑의 차이점을 알수 있었는데, 일반 딕셔너리는 존재하지 않는 키를 인덱스로 탐색할 때 KeyError를 반환하는 반면, Counter 딕셔너리는 존재하지 않는 키일 경우 0을 반환하였다. 이로써 if s2[i]로 만약 참이면 s2에 i라는 key가 존재하는 것이고, 아니면 존재하지 않는 것으로 코드를 구현할 수 있었다. 마지막에 difference에서 union을 나눠주고 65536을 곱해준 값을 return해주면 정답을 구할 수 있다.

from collections import Counter
def solution(str1, str2):
    s1 = []
    for i in range(len(str1)-1):
      if 65 <= ord(str1[i]) <= 122 and ord(str1[i]) != 95 and 65 <= ord(str1[i+1]) <= 122 and ord(str1[i+1]) != 95:
        s1.append((str1[i]+str1[i+1]).lower())
    s2 = []
    for i in range(len(str2)-1):
      if 65 <= ord(str2[i]) <= 122 and ord(str2[i]) != 95 and 65 <= ord(str2[i+1]) <= 122 and ord(str2[i+1]) != 95:
        s2.append((str2[i]+str2[i+1]).lower())
    s1 = Counter(s1)
    s2 = Counter(s2)
    difference = 0
    union = 0
    for i in s1.keys():
      if s2[i]:
        difference += min(s1[i], s2[i])
        union += max(s1[i], s2[i])
      else:
        union += s1[i]
    for i in s2.keys():
      if not s1[i]:
        union += s2[i]
    answer = int(difference/union*65536)
    return answer
print(solution('E=M*C^2', 'e=m*c^2'))

배운 점:

언더바의 아스키 코드는 95이다

Counter 딕셔너리는 존재하지 않는 키에 대하여 KeyError를 반환하지 않고 0을 반환한다