{
 "cells": [
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "import awswrangler as wr\n",
    "import pandas as pd\n",
    "import numpy as np\n",
    "import boto3\n",
    "# from sagemaker import get_execution_role\n",
    "import datetime\n",
    "import string\n",
    "import random\n",
    "\n",
    "# role = get_execution_role()"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# 측정치\n",
    "1. 총 5가지 측정치가 있음 (Temperature, Humidity, illumination, motiondetect, dooropen)\n",
    "2. 연구소 회의실의 측정치는 5가지 측정치가 동시에 기록되어 있는 경우가 없으므로 제외\n",
    "3. 2-3 회의실의 측정치에서 약 20일간 동시에 측정되어 있음 (9월초, 10월말, 11월 초)\n",
    "4. 2-3 회의의 측정치를 기준으로 훈련데이터 생성 진행\n",
    "\n",
    "# Temperature, Humidity, illumination preprocessing\n",
    "1. 기존 초 단위의 측정 시간을 1분 단위로 변경\n",
    "2. 동일 시간 인덱스에 여러 값이 있을 경우 Median 값을 취함\n",
    "3. 결측치가 있을 경우 이전 측정치중 마지막 값으로 채움 (ffill)\n",
    "4. 이전 측정치가 없을 경우 자신의 값으로 이전 값들을 채움 (bfill)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "# Temperature, Humidity preprocessing\n",
    "temphum_df = pd.read_csv('temperature_humidity.csv')\n",
    "temphum_df['timestamp'] = pd.to_datetime(temphum_df.timestamp)\n",
    "df_temp_hum = temphum_df[   temphum_df['device_id'].isin(['00158d00028d93d8'])  ]\n",
    "df_temp_hum.set_index('timestamp', inplace=True)\n",
    "df_temp_hum = df_temp_hum.resample(rule='T').median().fillna(method='ffill').fillna(method='bfill')\n",
    "df_temp_hum = df_temp_hum[['hum', 'temp']].fillna(method='ffill').fillna(method='bfill')\n",
    "df_temp_hum\n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "# illumination preprocessing\n",
    "tmp = pd.read_csv('illumination.csv')\n",
    "tmp['timestamp'] = pd.to_datetime(tmp.timestamp)\n",
    "tmp.rename(columns={'evt':'illum'}, inplace=True)\n",
    "df_illumination = tmp[   tmp['device_id'].isin(['00158d0006c9d5ed'])  ]\n",
    "df_illumination.set_index('timestamp', inplace=True)\n",
    "df_illumination = df_illumination.resample(rule='T').median()#[['device_id', 'hum', 'temp']]\n",
    "df_illumination = df_illumination[['illum']].fillna(method='ffill').fillna(method='bfill')\n",
    "df_illumination = df_illumination.join(df_temp_hum)\n",
    "df_illumination"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# motion, door preprocessing\n",
    "1. 기존 초 단위의 측정 시간을 1분 단위로 변경\n",
    "2. 동일 시간 인덱스에 여러 값이 있을 경우 count 값을 취함\n",
    "3. 결측치가 있을 경우 0 (zero) 값으로 채움\n",
    "\n",
    "# data merge\n",
    "1. 5가지 측정치를 1개의 테이블로 합침\n",
    "2. 한번에 5개 측정치를 concat() 할경우 time index 가 중복되기 때문에 순차적으로 1:1 concat 을 실행\n",
    "\n",
    "# data label\n",
    "1. 측정치와 마챦가지로 1개의 컬럼에 기록하여 측정치 테이블과 merge 함\n",
    "2. ~~결측치의 경우 linear interpolation 으로 복구~~\n",
    "3. 결측치 처리\n",
    "   1. 라벨의 not detected(날짜/시간 인식못함) 값은 임의로 날짜를 2000년으로 수정해 놓았음 -> 날짜 필터를 이용하여 제거\n",
    "   2. 제거된 부분의 값은 0 값으로 채워넣음"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "# motion, door preprocessing\n",
    "tmp = pd.read_csv('motion_door.csv')\n",
    "tmp['timestamp'] = pd.to_datetime(tmp.timestamp)\n",
    "tmp.set_index('timestamp', inplace=True)\n",
    "\n",
    "df_motion = tmp[tmp.device_id == '00158d0002d545b4'].copy()\n",
    "df_motion.rename(columns={'evt':'motion'}, inplace=True)\n",
    "df_motion = df_motion.resample(rule='T').count()\n",
    "\n",
    "df_door = tmp[tmp.device_id == '00158d0005bb96f3'].copy()\n",
    "df_door.rename(columns={'evt':'door'}, inplace=True)\n",
    "df_door = df_door.resample(rule='T').count()\n",
    "\n",
    "df_motion_door = pd.concat([df_motion, df_door])[['motion', 'door']].fillna(value=0)\n",
    "df_merge = df_motion_door.join(df_illumination)\n",
    "df_merge.to_csv('df_merge.csv')\n",
    "df_merge"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "# read and merge label\n",
    "df_l1 = pd.read_csv('20210830_080618A.csv')\n",
    "df_l2 = pd.read_csv('20211025_080015A.csv')\n",
    "df_label = pd.concat([df_l1, df_l2], ignore_index=True)\n",
    "df_label.rename(columns={df_label.columns[1]:'timestamp', df_label.columns[2]:'label'}, inplace=True)\n",
    "df_label['timestamp'] = pd.to_datetime(df_label.timestamp)\n",
    "# filtering\n",
    "df_label = df_label.loc[ (df_label['timestamp'] > '2021-01-01') ]\n",
    "df_label.set_index('timestamp', inplace=True)\n",
    "# resampling\n",
    "df_label = df_label.resample(rule='T').max()\n",
    "df_label = df_label[['label']]\n",
    "\n",
    "df_label = df_merge.join(df_label).resample(rule='T').max()\n",
    "df_label_8030_0916 = df_label.loc[ '2021-08-30 08:00': '2021-09-16 18:00'].fillna(value=0)\n",
    "df_label_1025_1103 = df_label.loc[ '2021-10-25 08:00': '2021-11-03 18:00'].fillna(value=0)\n",
    "df_label.to_csv('df_labeled.csv')\n",
    "df_label_1025_1103.to_csv('df_label_1025_1103.csv')\n",
    "df_label_8030_0916.to_csv('df_label_8030_0916.csv')\n"
   ]
  }
 ],
 "metadata": {
  "interpreter": {
   "hash": "5840fe83e8c616ad004d50f60875191cdadb38ef49900913886cd20b10eae981"
  },
  "kernelspec": {
   "display_name": "Python 3.8.8 64-bit ('base': conda)",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.8.8"
  },
  "orig_nbformat": 4
 },
 "nbformat": 4,
 "nbformat_minor": 2
}
