본문 바로가기

머신러닝 읽어주는 남자

(31)
모바일넷 mnasnet, 셔플넷 기존 컨볼루션 모바일넷 v1에서 제안된 depth-wise, point-wise 컨볼루션(separable convolution) 입력: h*w*d(d는 채널수) 커널: k*k*d*d'(d'는 필터수) 기존 연산량: h*w*d*k*k*d' separable 연산량: h*w*d*(k^2+d') 1/d'+1/(k^2) 보통 1/8, 1/9 수준으로 줄어들음 Width multiplier: 채널을 일정한 비율로 줄이기 resolution mutilplier: 이미지 크기를 일정 수준으로 줄이기 v2 separable linear bottleneck layer relu 쓰면 성능 떨어짐 inverted resudual blocks 기존 residual inverted residual bl..
코로나 데이터 분석 20년 1월 22일부터 3월 22일동안 162개국에서 수집된 데이터를 분석을 해봤다. 모든 사진은 눌러보면 더 크고 선명하게 볼 수 있습니다 0. 국가별 코로나 확진자 상황: 전세계에 들불처럼 번지고 있는 코로나 바이러스 1. 세계 확진자 수: 기하급수적으로 증가하고 있는 세계 확진자 수 2. 중국 확진자수: 의심스럽게도 잠잠한 중국 확진자 상황 3. 대한민국의 코로나 확진자 수: 잡힐 듯 잡히지 않는 코로나 4. 이탈리아 확진자 수: 난리가 난 이탈리아 5. 미국의 확진자 수: 상황이 불안불안한 미국 6. 세계 사망자 수: 기하급수적으로 증가 중 7.대한민국 사망자 수: 세계 사망자 수에 비해서 온건하게 증가 중 8. 대한민국의 감염자수: 완치자가 늘어나면 대한민국의 감염자 숫자자체는 안정화될 것처럼 ..
[코로나 예측/예상]인공지능이 예상한 코로나 바이러스(COVID-19) 코로나 바이러스가 전세계에 들불처럼 번지고 있다. 아래 그림처럼 불안함 마음을 감추지 못하고 20년 1월 22일부터 3월 20일까지 162개국에서 수집된 데이터를 기반으로 앞으로 대한민국에서 어떻게 코로나 확진자 추이가 어떻게 될지 예측해보았다. 인간의 뇌를 모사한 딥러닝(인공신경망) 예측한 결과이다. 국내 코로나 확진자 수 예측 X축은 20년 1월 22일부터 소요된 날짜, Y축은 확진자 수이다. 결과를 대충 요약해보자면 1만명: 20년 4월 초 돌파 2만명: 20년 6월 중 돌파 3만명: 20년 10월 말 돌파 3만5천명: 21년 6월말 돌파 이후 크게 증가 없이 3만 5천명 수준으로 유지 예측하였다. 현재의 예측은 전세계 및 대한민국 확진자 데이터만으로 예측을 한 것으로 종교, 날씨, 바이러스 특성 ..
tf.data.dataset 파일 읽기 파일을 읽어와서 데이터셋 포멧으로 저장한다. dataset = tf.data.TFRecordDataset(filenames = [fsns_test_file]) 데이터 출력해보기 - 이를 이터레이터화하면 데이터를 하나씩 가져올 수 있다(출력은 이거텐서 형태) next(iter(dataset)) - 이렇게 나온 결과는 바이트로 변환한후 읽을 수 있는 형태로 변환 parsed = tf.train.Example.FromString(raw_example.numpy()) - 불필요한 것들을 벗김 feature = parsed.features.feature - 필요한 정보만을 쏙쏙 가져와서 이미지화 한다. raw_img = feature['image/encoded'].bytes_list.value[0] i..
인공지능(딥러닝) 입문 추천 인공지능에 관심이 높아지면서 가장 많이 받는 질문이 어떻게 인공지능을 입문하면 될까요??? 혹은 인공지능을 어떻게 배울까요? 이다. 오늘은 그 질문에 대한 답이 되는 포스팅이 되었으면 한다. 방법 1. 책, 2. 무료 강의, 3. 웹페이지 첨언하자면, 인공지능 관련해서는 우리나라에서 본격적으로 관심같은지 얼마되지 않아서, 국내에 유통되는 책, 자료들의 상당수가 번역본이 많은데 용어도 애매하고 번역도 신묘(?)해서 오히려 원서보다 어렵게 느껴진다. 그래서 차라리 국내에서 만든 컨텐츠 혹은 원서를 보는 것을 추천한다. 1. 인공지능(머신러닝, 딥러닝, 뉴럴넷) 책 추천 * 브레인 이미테이션 인공지능에 대해서 잘 모를 때, 전체 개념을 잘 잡아주는 책이다. 현재의 인공지능을 요즘 핫한 뇌과학을 통해서 재밌게 ..
tensorflow example, tfrecord tf 2.0 기준 tf.example은 스트링화 된 tf.train.Feature를 기본으로한다. 순서를 그려보자면 데이터 | tf.train.BytesList tf.train.FloatList tf.train.Int64List | tf.train.Feature를 통한 피쳐화 | 딕셔너리 화 | tf.train.Feature를 통한 피쳐화 | tf.train.Example를 통한 시리얼라이즈 | example.SerializeToString()를 통한 텍스트화 (결과) b'\nR\n\x11\n\x08feature0\x12\x05\x1a\x03\n\x01\x00 와 같은 최종적으로 string과 같은 bytes 출력이 나온다. 이러한 일련의 과정을 거쳐서 최종적으로 시리얼라이즈 된다. tf.train.Ex..
음악생성(raw audio file) 일반적으로 음악생성은 미디 파일과 같은 심볼릭 데이터를 기본으로 한다. 하지만 이러한 생성은 재생시에 음색, 강약과 같은 미묘한 정보가 누락되기 때문에 절대 만족스러운 음악 품질이 나오기가 어렵다. 그래서 결국은 음악을 제대로 생성하려면 오디오 파일로 만들어야 한다.(시간 도메인의 웨이브폼으로) 오디오 생성에는 빠질 수 없는 모델이 있는데 바로 그것은 WaveNet 웨이브넷은 autoregressive 모델로 쉽게 말하면 본인으로 부터 본인을 생성하는 모델이다 위의 그림처럼 오디오를 생성한 후 그것이 다시 입력으로 들어가 다음 오디오를 생성한다. 위의 굵은 선처럼 필터 사이즈(받는 입력의 갯수)=2 이고 5개 층이면 볼 수 있는 범위를 뜻하는 Receptive field(RF)는 5 밖에 안된다. 물론 ..
AutoRegressive model 자기 자기 자신으로 자신을 나타내는 모델 단순하고, 트랙터블함, 좋은 likelihood를 가짐. PixelRNN 전체 걔요를 보여주는 Sppatial LSTM LSTM 1층이 픽셀하나 또는 인근의 픽셀값는 입력으로 받는다. 그 외에도 인근 LSTM의 히든 스테이트 값 역시 받는다 그렇게 받은 입력을 토대로 출력을 내보내서 2층으로 올려보낸다. 2층 LSTM도 같은 방식으로 동작하며, 결국 출력을 내보낸다. 이미지를 픽셀들을 시퀀셜하게 생각하고 이전 픽셀들을 기반으로 현재의 픽셀을 생성해 냄. 아래, 뒤의 픽셀의 정보는 없이 만들음. 너무 느리다는 단점이 있음. 멀티 채널시 RGB순서로 생성함. 너무 느려지니 다음과 같이 활용됨 pixel CNN 가장 빠름 LSTM연산보다 훨씬 빠른 컨볼루션 연산으로 더..

반응형