Intelligent Feeding Control in Aquaculture: A Deep Learning Approach with Uncertainty Estimation: Comparison between two techniques for Uncertainty Estimation using a Convolutional Neural Network Classifier
2024 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE credits
Student thesisAlternative title
Smart utfodring i fiskproduktion: En metod med djupinlärning och osäkerhetsestimering. : Jämförelse mellan två olika metoder för osäkerhetsestimering (Swedish)
Abstract [en]
In Aquaculture, the feed accounts for a major portion of the environmental impact and overall costs. Recently, attempts to develop intelligent feeding systems using image data have shown promising results. This work investigates an approach to detect different levels of feeding intensity in land-based fish farms, using a Convolutional Neural Network. Two techniques for Uncertainty Estimation, Monte-Carlo Dropout and Last-Layer Laplace Approximation, are implemented to improve accuracy and reliability of the model. First, a deep neural network is trained to classify different levels of feeding intensity, using a small dataset consisting of manually annotated video segments. The deep network achieves 73% classification accuracy on the test set. Then, the deep network is coupled with Monte-Carlo Dropout and Last-Layer Laplace Approximations to estimate uncertainty in the network predictions. Setting a fixed threshold for when predictions are considered uncertain, the two methods are evaluated using metrics such as precision, recall and Area Under Precision-Recall Curve. The results show that Monte-Carlo Dropout outperforms Last-Layer Laplace Approximations in all evaluated metrics, except for Expected Calibration Error. However, Last-Layer Laplace Approximations is ten times faster during inference and might possibly be more efficient for deployment with respect to hardware requirements and energy consumption. Both methods show potential for improving the accuracy and reliability of feeding behavior detection.
Abstract [sv]
Inom fiskproduktion står fodret för en stor del av industrins totala miljöpåverkan samt driftskostnad. Ny forskning inom intelligenta utfodringssystem med hjälp av kamerasensorer har visat lovande resultat. I detta examensarbete undersöks en metod för att klassificera fiskars beteenden i samband med utfodring i landbaserade fiskodlingar. Detta görs med hjälp av ett djupt neuralt nätverk samt videodata hämtad hos en fiskodling i produktionsmiljö. Det neurala nätverket utrustas med två olika tekniker, Monte-Carlo Dropout och Last-Layer Laplace Approximation, för att estimera osäkerheten i nätverkets förutsägelser. Nätverket tränas på manuellt annoterade videosekvenser inspelade under ett antal olika utfodringstillfällen. Vid utvärderingen lyckades det tränade nätverket korrekt klassificera 73% av testfallen. Ytterligare tester utfördes för att utvärdera pålitligheten i osäkerhetsskattningen. Resultaten visar att båda metoderna tenderar att estimera hög osäkerhet för felklassificerade testfall, och lägre osäkerhet i de fall där förutsägelserna är korrekta. Monte-Carlo Dropout ger generellt mer tillförlitliga estimat av osäkerheten, även om båda metoderna presterar bättre än den mer naiva modellen som används som jämförelse. Jämfört med Monte-Carlo Dropout är Last-Layer Laplace Approximation tio gånger snabbare på att estimera nätverkets osäkerhet, och kan därför möjligen vara mer effektiv i produktionsmiljö med avseende på driftskostnad. Båda metoderna uppvisar potential till att förbättra noggrannheten och tillförlitligheten vid detektering av matningsbeteenden.
Place, publisher, year, edition, pages
2024. , p. 63
Series
TRITA-EECS-EX ; 2024:596
Keywords [en]
Uncertainty Estimation, Convolutional Neural Networks, Multi-class Classification, Monte-Carlo Dropout, Last-Layer Laplace Approximation, Deep Learning, Land-based Fish Farming, Aquaculture
Keywords [sv]
Osäkerhetsestimering, CNN, Monte-Carlo Dropout, Last-Layer Laplace Approximation, Djupinlärning, Landbaserad Fiskodling
National Category
Computer and Information Sciences
Identifiers
URN: urn:nbn:se:kth:diva-353083OAI: oai:DiVA.org:kth-353083DiVA, id: diva2:1897042
External cooperation
Svenska Miljöinstitutet IVL
Supervisors
Examiners
2024-10-022024-09-112025-01-27Bibliographically approved