Neural Networks(8)
-
Accurate Intelligible Models with Pairwise Interactions (2013)
논문에 대한 오역, 의역등이 다수 포함되어 있습니다. 댓글로 많은 의견 부탁드립니다 Author: Yin Lou, Rich Caruana, Johannes Gehrke, Giles Hooker 최근 $\mathrm{GA^2M}$이라는 흥미로운 키워드를 발견했습니다. 2013년 KDD 19th에서 발표된 논문이며 최근 eXAI에서 종종 활용되고 있습니다. 1. Introduction 기계학습 분야의 모델들은 다양한 형태의 데이터셋에서 좋은 예측 성능을 보여줌으로써 주목받고 있습니다. 하지만, 꽤 많은 모델의 경우, 주어진 임의의 데이터 샘플 $x\in \mathbb{R}^{n}$의 각 변수(이미지의 경우 픽셀)로부터 목표 $y$를 예측하기 위해 얼마나 많은 기여도를 전달받았는지 직접적으로 알 수 없습니다...
2022.12.23 -
Neural Additive Models: Interpretable Machine Learning with Neural Nets
논문에 대한 오역, 의역등이 다수 포함되어 있습니다. 댓글로 많은 의견 부탁드립니다 Author: Rishabh Agarwal, Levi Melnick, Nicholas Frosst, Xuezhou Zhang, Ben Lengerich, Rich Caruana, Geoffrey Hinton Neural Additive Models, 줄여서 NAM은 심층신경망의 해석가능성을 제시한 논문입니다. NAM을 읽고 난 후, 이게 될까 싶었는데 실제로 해보니 어느정도 괜찮은 성능을 보였습니다. Official code는 TF1.x로 구현되었으며, 제 깃허브를 참조하시면 TF2.x도 사용할 수 있습니다. https://github.com/merchen911/NAM GitHub - merchen911/NAM: Neur..
2022.03.01 -
SCINet: Time Series is a Special Sequence: Forecasting with Sample Convolution and Interaction
논문에 대한 오역, 의역등이 다수 포함되어 있습니다. 댓글로 많은 의견 부탁드립니다 Author: Minhao Liu, Ailing Zeng, Zhijian Xu, Qiuxia Lai, Qiang Xu SCINet은 시계열 예보를 위해, Binary Tree 구조와 CNN unit를 활용한 forecasting 방법입니다. 모델의 성능은 링크와 같이 ETT (Electricity Transformer Temperature) dataset에서 매우 우수한 성능을 보여줍니다. Official code는 pytorch로 구현되었으며, tensorflow로 구현한 코드도 있습니다. 1. Introduction 시계열 예보(Time series forecasting)를 위한 방법들은 지속적으로 연구되고 있습니다...
2021.12.14 -
SOM-VAE: Interpretable Discrete Representation Learning On Time Series
논문에 대한 오역, 의역등이 다수 포함되어 있습니다. 댓글로 많은 의견 부탁드립니다 Author : Vincent Fortuin, Matthias Hüser, Francesco Locatello, Heiko Strathmann, Gunnar Rätsch International Conference on Learning Representations (ICLR 2019) [paper link] 논문은 Tensorflow 1으로 구현되었고 [link], pytorch version으로도 implementation되어있지만 [torch link], TF 1은 다루기가 힘들고 torch version은 잘못 구현된 부분이 존재함을 확인했습니다. 따라서 저자의 구현을 바탕으로 TF 2로 migration했고, 해당..
2021.08.25 -
Unsupervised Scalable Representation Learning for Multivariate Time Series (2019)
최근 시계열쪽을 연구할 기회들이 생겨 관련 논문들을 읽고 있습니다. 본 논문은 그 중 하나로써 시계열을 효과적으로 embedding 하는 방법을 제안합니다. 최근 kaggle의 g2net에도 참가중이며, noise가 가득한 데이터셋에서 의미가 있는 sequence를 탐지하는 대회입니다. 시계열 대회이기 때문에 본 논문을 적용해봤습니다만, 논문만 보자면 잘 될 것 같은데 사용해보니 잘 안되네요. 방법은 좋은 것 같으며 citation 횟수도 높은편이라 리뷰를 준비했습니다. 논문에 대한 오역, 의역등이 다수 포함되어 있습니다. 댓글로 많은 의견 부탁드립니다. Author: Jean-Yves Franceschi, Aymeric Dieuleveut, and Martin Jaggi NIPS, 2019 논문링크 A..
2021.07.31 -
KGCN: Knowledge Graph Convolutional Networks for Recommender Systems (2019)
이번에 리뷰할 논문은 Knowledge Graph Convolutional Network입니다. Knowledge graph는 일반적인 graph와 달리 node 또는 vertex를 연결하는 edge가 단순한 수치로 표현하기 어려운 관계를 갖는 high-order graph를 의미합니다. 논문은 Knowledge graph에 기반하여 recommendation system을 구성할 때 사용할 수 있는 방법을 제안합니다. 논문은 간단한 graph의 사전 지식을 요구합니다. 하지만 machine learning에 관심이 있으신 분들이라면 크게 무리 없이 읽으실 수 있을 것 같습니다. 논문 정리를 위해 논문으로부터 그림 및 알고리즘을 스크랩합니다. 논문에 대한 오역, 의역등이 다수 포함되어 있습니다. 댓글로 ..
2021.05.12