Improving Die-Casting Part Classification using Transfer Learning with Deep Convolutional Neural Networks

この紹介資料は、「IEOM Society International」によって発行された論文「Improving Die-Casting Part Classification using Transfer Learning with Deep Convolutional Neural Networks」に基づいています。

1. 概要:

• 論文タイトル: Improving Die-Casting Part Classification using Transfer Learning with Deep Convolutional Neural Networks
• 著者: Al Sani, Khalilur Rahman, Md Nuruzzaman, Md Mahfuzur Rahman
• 発行年: 2024
• 発行学術誌/学会: IEOM Society International
• キーワード: Die-casting, Classification, Transfer Learning, Convolutional Neural Network, Deep Learning

2. 抄録:

製品品質は、企業の競争優位性と消費者の要求を決定するため、今日の製造プロセスにおいて極めて重要な要素です。問題は、従来の技術や品質管理方法が現在の環境では効果が薄れてきており、その結果、先進技術への需要が高まっていることにあります。本研究は、ダイカスト部品の欠陥を特定する上で深層学習（DL）技術の有効性を設計し評価することを目的としています。データセットは前処理され、モデルの過学習リスクを軽減し汎化能力を向上させるためにデータ拡張技術が採用されています。5つの事前学習済みDLモデル（AlexNet、DenseNet、EfficientNet、SqueezeNet、WideResNet）が、提案されたカスタム畳み込みニューラルネットワーク（CNN）モデルと比較されました。評価は、精度（precision）、再現率（recall）、正解率（accuracy）、F1スコアを含む性能指標を用いて行われました。提案されたカスタムCNNモデルは98.08%の最高正解率を達成し、他のすべてのモデルを上回りました。次に高い正解率はSqueezeNetモデルの97.70%でした。結果は、提案されたDLベースのアプローチ、特にカスタムCNNモデルが、品質管理プロセスを大幅に改善し、不良品の製造を低減できることを示しています。

3. 緒言:

あらゆる製造会社の主な目標は、鋳造プロセスにおける欠陥や不良を排除することにより、グローバル市場での収益性と競争力を維持することです（Gupta et al. 2023）。鋳造は、モーター、発電機、コンプレッサーなどの産業機械や、ストーブ、家具、キッチン用品などの家庭用品を含む様々な用途で採用される、非常に適応性の高いプロセスです。ダイカストは、特に航空宇宙、自動車、電子機器、現代製造業において、複雑な金属部品を製造する上で不可欠です（Duan et al. 2023）。

欠陥製品は、脆弱で信頼性の低い構造をもたらし、重大なリスクを引き起こす可能性があります。すべての鋳造製品は、顧客の期待を満たし、品質基準を維持するために、出荷前に包括的な検査が必要です（Oh et al. 2020）。鋳造会社は、欠陥製品が納入された場合、収益損失や潜在的な注文キャンセルの重大なリスクに直面します。このような問題は、会社の評判を損ない、顧客関係を悪化させ、長期的に業績に悪影響を与える可能性があります。従来、ダイカストの欠陥検出は、コストがかかり、時間がかかり、人的ミスを起こしやすい手動検査技術に依存してきました（Yousef & Sata 2023）。産業プロセスの自動化とデジタル化に伴い、より効率的で精密な欠陥検出システムへの需要が高まっています。転移学習は、限られたデータという課題に対処するための効果的な解決策であることが示されており、事前学習済みモデルを特定のタスクに適応させることができます。DL手法は、検査プロセスを自動化することにより、欠陥検出の速度と精度を大幅に向上させ、製品品質の向上と生産コストの削減をもたらします。本研究は、ダイカストにおける欠陥検出を改善し、それによって製造プロセスの最適化、廃棄物の削減、およびより高い生産品質の確保を促進することを目的としています。

4. 研究の概要:

研究テーマの背景:

製品品質は製造業において最も重要です。ダイカストは複雑な部品に不可欠なプロセスですが、欠陥は故障につながる可能性があります。従来の検査方法は現代の要求には不十分であり、自動化され、正確で効率的な欠陥検出システムの必要性が生じています。深層学習（DL）と転移学習は有望な解決策を提供します。

先行研究の状況:

研究者たちは、鋳造欠陥検査のために様々な人工知能（AI）およびDL技術を適用してきました。研究には、鋳鉄部品に対する深層学習の使用（Wang & Jing, 2024）、小規模データセットを用いたCNN（Dong et al., 2020）、限られたデータでのEfficientNetB7などのアルゴリズム評価（Pranav et al., 2023）、鋼材欠陥用の軽量ネットワーク開発（Lal et al., 2023）、ポンプインペラ用CNNの使用（Chigateri et al., 2023）、シミュレートされた欠陥を用いた深層物体検出の採用（Mery, 2021）、X線画像用CNNの設計（Hu & Wang, 2022）、セラミックベアリング用ガウスモデルの使用（Dongling et al., 2022）、事前学習済みCNNの調査（Habibpour et al., 2021）、RCNN-DCのような再帰的注意モデルの開発（Zhao & Wu, 2022）、X線画像のための注意誘導データ拡張の使用（Jiang et al., 2021）などが含まれます。これらの研究は、AIを用いた自動欠陥検出を改善するための継続的な努力を浮き彫りにしています。

研究の目的:

主な目的は以下の通りです：

1. ダイカスト製品の欠陥を分類するために特化したカスタム畳み込みニューラルネットワーク（CNN）モデルを設計・開発すること。
2. ハイパーパラメータ最適化技術を用いて、このカスタムモデルの性能を分析すること。
3. ダイカストデータセットを用いて、いくつかの最先端の転移学習技術を評価すること。
4. 転移学習モデルの性能を提案されたカスタムCNNモデルと比較すること。
5. 欠陥検出プロセスの効率と精度を高めることにより、ダイカスト検査技術の進歩に貢献し、それによってダイカスト産業全体の品質保証を向上させること。

研究の核心:

本研究は、ダイカスト欠陥分類のための深層学習の応用に焦点を当てています。ダイカスト部品画像のデータセットを収集し、それらを前処理（コントラスト調整、リサイズ、ノイズ除去）し、モデルの堅牢性を向上させるためにデータを拡張（回転、ズーム、反転）します。5つの事前学習済みDLモデル（AlexNet、DenseNet、EfficientNet、SqueezeNet、WideResNet）が転移学習を用いて微調整され、新たに開発されたカスタムCNNモデルと比較されます。モデルは、画像を「欠陥あり」または「欠陥なし」に分類する能力について訓練され、評価されます。性能は標準的な指標（正解率、精度、再現率、F1スコア）を用いて測定されます。カスタムCNNに対して、異なるオプティマイザ、学習率、エポック数の影響を評価するためのアブレーションスタディが実施されます。最後に、最良モデルの性能が既存の文献の結果と比較されます。

5. 研究方法論

研究デザイン:

研究はFigure 1に示される体系的なワークフローに従います：

1. データ収集: ダイカスト部品の画像収集。
2. データ前処理: コントラスト調整、リサイズ、ノイズ除去の適用。
3. 訓練/テスト分割: データセットを訓練用（80%）、検証用（10%）、テスト用（10%）に分割。
4. データ拡張: 訓練セットに回転範囲、ズーム範囲、水平反転などの技術を適用。
5. モデル選択: 5つの事前学習済みモデル（WideResNet、EfficientNet、SqueezeNet、AlexNet、DenseNet）を選択し、カスタムCNNを提案。
6. モデル訓練: 準備されたデータセットで選択されたモデルを訓練。
7. アブレーションスタディ: カスタムCNNにおける損失関数、オプティマイザ、学習率、エポック数の影響を分析。
8. 評価: 精度（Precision）、F1スコア、正解率（Accuracy）、再現率（Recall）の指標を用いてモデル性能を評価。
9. 比較: 結果を他の関連研究と比較。
   実験はKaggle上でNVIDIA Tesla P100 GPUを利用し、Python、Scikit-learn、PyTorchを用いて実施されました。

データ収集と分析方法:

データセットは、Pilot Technocast（2024）からCanon EOS 1300Dデジタル一眼レフカメラを用いて収集された、鋳造水中ポンプインペラの高解像度（512×512ピクセル、グレースケール）JPEG画像1300枚で構成されています。データセットは不均衡であり、「欠陥あり」（Defective、781枚）と「欠陥なし」（No Defect、519枚）の2つのクラスを含みます。データセット分析は、クラスを区別する主要なパターンを特定することを目的としました。データは再現性のためにランダムシードを用いて分割されました：訓練用1040枚、検証用130枚、テスト用130枚（Table 1、Table 2）。

研究トピックと範囲:

本研究は、ダイカスト部品の欠陥分類のための深層学習、特に畳み込みニューラルネットワーク（CNN）と転移学習の応用を調査します。範囲は以下の通りです：

• ダイカストポンプインペラ画像の特定データセットの利用。
• 5つの事前学習済みDLモデル（AlexNet、EfficientNet、DenseNet、WideResNet、SqueezeNet）の実装と評価。
• カスタムCNNアーキテクチャの設計、実装、評価。
• 標準的な分類指標を用いたこれらのモデルの性能比較。
• カスタムモデルに対するハイパーパラメータ効果を理解するためのアブレーションスタディの実施。
• 達成された結果を文献で報告されている既存の方法と比較。

6. 主要な結果:

主要な結果:

• 提案されたカスタムCNNモデルは、すべての指標で最高の性能を達成し、正解率98.08%、精度98%、再現率98%、F1スコア98%を記録しました（Table 3）。
• 転移学習を用いて評価された事前学習済みモデルの中で、SqueezeNetが正解率97.70%、F1スコア98%で最高の性能を示しました（Table 3）。
• 他の事前学習済みモデルの性能は様々でした：AlexNet（正解率95%）、EfficientNet（正解率91%）、WideResNet（正解率69%）、DenseNet（正解率61%）（Table 3）。
• カスタムCNNのアブレーションスタディ（Table 4）により、最適なパラメータが特定されました：Adamオプティマイザ、学習率0.0001、40エポック。この設定で、最高の正解率98.08%と最低の損失13.69%を達成しました。SGDオプティマイザは最大97%の正解率を達成しました。
• カスタムCNNの混同行列（Figure 10）は、高い全体的な正解率を示し、テストセットにおいて欠陥あり153件、欠陥なし103件を正しく分類し、偽陰性（false negative）は4件、偽陽性（false positive）は1件のみでした。
• カスタムCNNのROC-AUC曲線（Figure 11）は、欠陥ありおよび欠陥なしの両クラスに対して曲線下面積（AUC）が0.99であることを示し、優れた識別能力を示しました。
• 既存の研究との比較（Table 5）では、提案されたカスタムCNNモデルの正解率（98.08%）が、論文で引用された鋳造欠陥分類タスクに関する以前に報告された機械学習（例：RBF-SVM 97.09%）および深層学習手法（例：YOLOv5m 95.9%、VGG16Inception-V3 95.29%）を上回ることが示されました。

Figure 2. Sample images of casting products from the quality inspection dataset.

Figure 11. ROC-AUC curve of Custom CNN model, showing a perfect AUC of 0.99 for defect and no-defect classification

Figure 10. Confusion Matrix for proposed CNN Model

Figure 9. Accuracy and Loss over Epochs for the CNN Model during Training and Validation.

Figure 8. The architecture of the DL model used for improving die-casting part Classification

Figure 7. Accuracy and Loss over Epochs for the SqueezeNet Model during Training and Validation.

Figure 6. Accuracy and Loss over Epochs for the WideResNet Model during Training and Validation.

Figure 5. Accuracy and Loss over Epochs for the DenseNet Model during Training and Validation.

Figure 4. Accuracy and Loss over Epochs for the EfficientNet Model during Training and Validation.

Figure 3. Accuracy and Loss over Epochs for the Alexnet Model during Training and Validation.

図のリスト:

• Figure 1. Systematic workflow to analyze datasets, preprocessing, selecting models, and evaluating them to improve die-casting part classification systems.
• Figure 2. Sample images of casting products from the quality inspection dataset.
• Figure 3. Accuracy and Loss over Epochs for the Alexnet Model during Training and Validation.
• Figure 4. Accuracy and Loss over Epochs for the EfficientNet Model during Training and Validation.
• Figure 5. Accuracy and Loss over Epochs for the DenseNet Model during Training and Validation.
• Figure 6. Accuracy and Loss over Epochs for the WideResNet Model during Training and Validation.
• Figure 7. Accuracy and Loss over Epochs for the SqueezeNet Model during Training and Validation.
• Figure 8. The architecture of the DL model used for improving die-casting part Classification
• Figure 9. Accuracy and Loss over Epochs for the CNN Model during Training and Validation.
• Figure 10. Confusion Matrix for proposed CNN Model
• Figure 11. ROC-AUC curve of Custom CNN model, showing a perfect AUC of 0.99 for defect and no-defect classification

7. 結論:

本研究は、産業品質検査を強化するために、ダイカスト部品の欠陥を分類するための深層学習モデルを成功裏に開発・評価しました。カスタムCNNモデルが設計され、98.08%の正解率を達成し、転移学習を介して適用された5つの異なる事前学習済みDLモデルを上回る優れた性能を示しました。モデルの汎化能力と堅牢性を向上させるために、データ拡張技術が採用されました。この発見は、提案されたカスタムCNNモデルが鋳造製品を正確に分類する上で大きな可能性を秘めていることを強調しており、製造業者が不良品を削減し、消費者満足度を向上させ、ブランドの評判を高めるのに役立ちます。将来の研究では、複数のDLアーキテクチャを組み合わせた融合モデルを探求し、困難な実世界の条件下で多様なデータセットを用いてモデルを検証し、堅牢性と信頼性をさらにテストすることが考えられます。

8. 参考文献:

• Chigateri, K. B., Poojary, S., & Padmashali, S., Recognition and classification of casting defects using the CNN algorithm. Materials Today: Proceedings, 92, 121–130,2023. https://doi.org/10.1016/j.matpr.2023.03.818
• Dong, X., Taylor, C. J., & Cootes, T. F.,Defect Detection and Classification by Training a Generic Convolutional Neural Network Encoder. IEEE Transactions on Signal Processing, 68, 6055–6069, 2020. https://doi.org/10.1109/TSP.2020.3031188
• Dongling, Y., Xiaohui, Z., Jianzhen, Z., & Nanxing, W., An enhancement algorithm based on adaptive updating template with Gaussian model for Si3N4 ceramic bearing roller surface defects detection. Ceramics International, 48(5), 6672–6680,2022. https://doi.org/10.1016/j.ceramint.2021.11.217
• Duan, Z., Chen, W., Pei, X., Hou, H., & Zhao, Y. (2023). A multimodal data-driven design of low pressure die casting gating system for aluminum alloy cabin. Journal of Materials Research and Technology, 27, 2723– 2736. https://doi.org/10.1016/j.jmrt.2023.10.076
• Gupta, R., Anand, V., Gupta, S., & Koundal, D.,Deep learning model for defect analysis in industry using casting images. Expert Systems with Applications, 232, 120758,2023. https://doi.org/10.1016/j.eswa.2023.120758
• Habibpour, M., Gharoun, H., Tajally, A., Shamsi, A., Asgharnezhad, H., Khosravi, A., & Nahavandi, S. (2021). An Uncertainty-Aware Deep Learning Framework for Defect Detection in Casting Products (No. arXiv:2107.11643). arXiv. https://doi.org/10.48550/arXiv.2107.11643
• Hu, C., & Wang, Y. (n.d.). An Efficient CNN Model Based on Object-level Attention Mechanism for Casting Defects Detection on Radiography Images. IEEE TRANSACTIONS ON INDUSTRIAL ELECTRONICS.
• Huang, G., Liu, Z., van der Maaten, L., & Weinberger, K. Q., Densely Connected Convolutional Networks. 4700– 4708,2017. https://openaccess.thecvf.com/content_cvpr_2017/html/Huang_Densely_Connected_Convolutional_CVPR _2017_paper.html
• Iandola, F. N., Han, S., Moskewicz, M. W., Ashraf, K., Dally, W. J., & Keutzer, K. (2016). SqueezeNet: AlexNet- level accuracy with 50x fewer parameters and <0.5MB model size (No. arXiv:1602.07360). arXiv. https://doi.org/10.48550/arXiv.1602.07360
• Ireri, D., Belal, E., Okinda, C., Makange, N., & Ji, C., A computer vision system for defect discrimination and grading in tomatoes using machine learning and image processing. Artificial Intelligence in Agriculture, 2, 28–37,2019. https://doi.org/10.1016/j.aiia.2019.06.001
• Islam, M. T., Rahim, N., Anwar, S., Saqib, M., Bakshi, S., & Muhammad, K. „HazeSpace2M: A Dataset for Haze Aware Single Image Dehazing. Proceedings of the 32nd ACM International Conference on Multimedia, 9155–9164,2024. https://doi.org/10.1145/3664647.3681382
• Jiang, L., Wang, Y., Tang, Z., Miao, Y., & Chen, S., Casting defect detection in X-ray images using convolutional neural networks and attention-guided data augmentation. Measurement, 170, 108736,2021. https://doi.org/10.1016/j.measurement.2020.108736
• Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2017). ImageNet classification with deep convolutional neural networks. Commun. ACM, 60(6), 84–90. https://doi.org/10.1145/3065386
• Lal, R., Bolla, B. K., & Sabeesh, E. (2023). Efficient Neural Net Approaches in Metal Casting Defect Detection. Procedia Computer Science, 218, 1958–1967. https://doi.org/10.1016/j.procs.2023.01.172
• Liqun, W., Jiansheng, W., & Dingjin, W. (2020). Research on Vehicle Parts Defect Detection Based on Deep Learning. Journal of Physics: Conference Series, 1437(1), 012004. https://doi.org/10.1088/1742- 6596/1437/1/012004
• Mery, D., Aluminum Casting Inspection using Deep Object Detection Methods and Simulated Ellipsoidal Defects. Machine Vision and Applications, 32(3), 72,2021. https://doi.org/10.1007/s00138-021-01195-5
• Oh, S., Cha, J., Kim, D., & Jeong, J. (2020). Quality Inspection of Casting Product Using CAE and CNN. 2020 4th International Conference on Imaging, Signal Processing and Communications (ICISPC), 34–38. https://doi.org/10.1109/ICISPC51671.2020.00014
• Parlak, İ. E., & Emel, E.,Deep learning-based detection of aluminum casting defects and their types. Engineering Applications of Artificial Intelligence, 118, 105636,2023. https://doi.org/10.1016/j.engappai.2022.105636
• Pilot Technocast. (n.d.). Pilot Technocast | Precision Core Casting Solutions. Retrieved December 1, 2024, from https://pilottechnocast.com/
• Pranav, G., Sonam, T., & Sree Sharmila, T. (2023). Defect Detection with less training samples using Deep Neural Networks. 2023 2nd International Conference on Smart Technologies and Systems for Next Generation Computing (ICSTSN), 1–4. https://doi.org/10.1109/ICSTSN57873.2023.10151506
• Sahoo, S. K., Mahesh Sharma, M., & Choudhury, B. B. (2019). A Dynamic Bottle Inspection Structure. In H. S. Behera, J. Nayak, B. Naik, & A. Abraham (Eds.), Computational Intelligence in Data Mining (pp. 873– 884). Springer. https://doi.org/10.1007/978-981-10-8055-5_77
• Tan, M., & Le, Q. ,EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks. Proceedings of the 36th International Conference on Machine Learning, 6105–6114,2019. https://proceedings.mlr.press/v97/tan19a.html
• Wang, P., & Jing, P., Deep learning-based methods for detecting defects in cast iron parts and surfaces. IET Image Processing, 18(1), 47–58,2024. https://doi.org/10.1049/ipr2.12932
• Yousef, N., & Sata, A., Innovative Inspection Device for Investment Casting Foundries. International Journal of Metalcasting, 17(4), 2663–2673,2023. https://doi.org/10.1007/s40962-023-01051-4
• Zagoruyko, S., & Komodakis, N. (2017). Wide Residual Networks (No. arXiv:1605.07146). arXiv. https://doi.org/10.48550/arXiv.1605.07146
• Zhao, Z., & Wu, T.,Casting Defect Detection and Classification of Convolutional Neural Network Based on Recursive Attention Model. Scientific Programming, 2022, 1–11,2022. https://doi.org/10.1155/2022/4385565

9. 著作権:

• この資料は、「Al Sani, Khalilur Rahman, Md Nuruzzaman, and Md Mahfuzur Rahman」による論文です。「Improving Die-Casting Part Classification using Transfer Learning with Deep Convolutional Neural Networks」に基づいています。
• 論文の出典: https://doi.org/10.46254/BA07.20240233

この資料は上記の論文に基づいて要約されており、商業目的での無断使用は禁じられています。
Copyright © 2025 CASTMAN. All rights reserved.