{"cells":[{"metadata":{},"cell_type":"markdown","source":"# Preparação dos dados\nInstalação do Fastai e ferramentas necessárias"},{"metadata":{"_uuid":"d629ff2d2480ee46fbb7e2d37f6b5fab8052498a","_cell_guid":"79c7e3d0-c299-4dcb-8224-4455121ee9b0","trusted":true},"cell_type":"code","source":"import pandas as pd\n\nfrom fastai.vision.all import *\n\nimport os\n\n#definição da pasta de caminho padrão\npath = Path('../input/cassava-leaf-disease-classification')","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"Obtenção do dataset, neste momento também são excluidas imagens repetidas. As mesmas foram obtidas de notebooks estudados, como [nesse](https://www.kaggle.com/benjibb/resnet50-pretrained-fastai)."},{"metadata":{"trusted":true},"cell_type":"code","source":"train_df = pd.read_csv(path/'train.csv')\n#exclusão de imagens repetidas\ntrain_df = train_df[~train_df['image_id'].isin(['1562043567.jpg', '3551135685.jpg', '2252529694.jpg'])]\ntrain_df.head()","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"Abaixo são definidos os parâmetros para serem utilizados no datablock para data augmentation, onde o item_tfms ocorre primeiro, e define os parâmetros de transformação para cada uma das imagens em separado, em que foi selecionado um recorte randômico mantendo a proporção e mantendo o mínimo de 75% da imagem. Já o batch_tfms realiza a mesma operação em todas as imagens, defimindo um tamanho de 384px para todas e realizando a normalização."},{"metadata":{"trusted":true},"cell_type":"code","source":"item_tfms = RandomResizedCrop(460, min_scale=0.75, ratio=(1.,1.))\nbatch_tfms = [*aug_transforms(size=384, max_warp=0), Normalize.from_stats(*imagenet_stats)]\nbs=16","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"São definidos os getters dos eixos do datablock, onde em x está a pasta onde estão as imagens para treino, e em y estão os labels das categorias."},{"metadata":{"trusted":true},"cell_type":"code","source":"def get_x(r):\n    return path/'train_images'/r['image_id']\n\ndef get_y(r):\n    return r['label']","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"Por fim, é criado o datablock, separando o bloco de imagens e o de categoria, onde é passada a classificação das imagens, sendo de 0 a 4 referidas a plantas doentes, com diferentes categorias, e a 5 referente a planta saudavel. O splitter separa os dados em validação e teste, deixando como 0.2 para validação, e com uma semente randômica definida como 42."},{"metadata":{"trusted":true},"cell_type":"code","source":"pets = DataBlock(blocks=(ImageBlock, CategoryBlock),\n                 get_x=get_x,\n                 get_y=get_y,\n                 splitter=RandomSplitter(0.2, seed=42),\n                 item_tfms=item_tfms,\n                 batch_tfms=batch_tfms)\ndataloader = pets.dataloaders(train_df, bs=bs)","execution_count":null,"outputs":[]},{"metadata":{"trusted":true},"cell_type":"code","source":"dataloader.show_batch()","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"# Treinamento do modelo"},{"metadata":{"trusted":true},"cell_type":"code","source":"#este bloco importa o modelo resnet50 para o local correto, já que não é possível enviar sem a internet ativada\nif not os.path.exists('/root/.cache/torch/hub/checkpoints/'):\n        os.makedirs('/root/.cache/torch/hub/checkpoints/')\n!cp '../input/resnet50/resnet50.pth' '/root/.cache/torch/hub/checkpoints/resnet50-19c8e357.pth'","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"O modelo escolhido foi o resnet50, devido a testes anteriores utilizando o colab. Foram definidos como métricas de avaliação a acurácia e o error rate.\n\nA forma de treinamento utilizada é o fine_tune, que faz a combinação do fot_one_cycle com o unfreeze, onde primeiramente são geradas epocas com os pesos congelados, e após esse treinamento, os pesos são descongelados para seguir o treinamento. Esse era a sequência padrão utilizada pelo fastai na v1, na v2 foi adicionado o fine_tune para facilitar.\n\nO base_lr é o learning rate base que o modelo vai utilizar. Esse valor foi obtido baseado no resultado de curva descendente de loss antes de ocorrer uma subida brusca, visualizada pelo learn.lr_find() pelo valor 1e-2****"},{"metadata":{"trusted":true},"cell_type":"code","source":"learn = cnn_learner(dataloader, resnet50,\n                    loss_func = LabelSmoothingCrossEntropy(),\n                    cbs=[MixUp()],\n                    metrics=[error_rate,accuracy])\nlearn.fine_tune(8,freeze_epochs = 2,base_lr=1e-2)","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"Abaixo estou salvando o modelo com os pesos treinados em um arquivo, para realizar o download para minha máquina"},{"metadata":{"trusted":true,"collapsed":true},"cell_type":"code","source":"#learn.model_dir = '/kaggle/working'\n#learn.save('kaggle_resnet50')\n#learn.load('../input/kaggleresnet50/kaggle_resnet50.pth')","execution_count":null,"outputs":[]},{"metadata":{"trusted":true},"cell_type":"code","source":"learn = learn.to_native_fp32()","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"# Inferência e submissão\nNessa parte é preparada a submissão, abaixo é lido o csv de submissão preparado "},{"metadata":{"trusted":true},"cell_type":"code","source":"sample_df = pd.read_csv(path/'sample_submission.csv')\nsample_df.head()","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"As imagens disponíveis para teste são preditas utilizando como base o modelo treinado"},{"metadata":{"trusted":true},"cell_type":"code","source":"test_data_path = sample_df['image_id'].apply(lambda x: path/'test_images'/x)\ntst_dl = learn.dls.test_dl(test_data_path)\npredictions = learn.tta(dl = tst_dl, n=10)\n\n","execution_count":null,"outputs":[]},{"metadata":{"trusted":true},"cell_type":"code","source":"sample_df['label'] = np.argmax(predictions[0],axis=1)\nsample_df","execution_count":null,"outputs":[]},{"metadata":{},"cell_type":"markdown","source":"Por fim, é criado o submission.csv com as predições geradas anteriormente"},{"metadata":{"trusted":true},"cell_type":"code","source":"sample_df.to_csv('submission.csv',index=False)","execution_count":null,"outputs":[]}],"metadata":{"kernelspec":{"language":"python","display_name":"Python 3","name":"python3"},"language_info":{"pygments_lexer":"ipython3","nbconvert_exporter":"python","version":"3.6.4","file_extension":".py","codemirror_mode":{"name":"ipython","version":3},"name":"python","mimetype":"text/x-python"}},"nbformat":4,"nbformat_minor":4}