Learning to walk on a human musculoskeletal system with powered prostheses
Aktif protezli insan kas-iskelet sisteminde yürüme öğrenmesi
- Tez No: 769310
- Danışmanlar: DR. ÖĞR. ÜYESİ HÜLYA YALÇIN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Makine Mühendisliği, Computer Engineering and Computer Science and Control, Mechanical Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2022
- Dil: İngilizce
- Üniversite: İstanbul Teknik Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Makine Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Sistem Dinamiği ve Kontrol Bilim Dalı
- Sayfa Sayısı: 91
Özet
Genellikle travmatik veya vasküler rahatsızlıklar sebebiyle bazı kişilerde diz altından itibaren alt bacak kesilerek vücuttan ayrılmaktadır. Bu işleme transtibial ampütasyon denilmektedir. Bu kişiler bir bacaklarının bütünlüğünü kaybetmeleriyle yürüme, koşma, tırmanma gibi bacak kaslarını aktif olarak kullanmayı ve zeminden destek almayı gerektiren aktivitelerde güçlük çekmekte ve genellikle gerçekleştirememektedirler. Transtibial ampüte durumdaki kişilerin günlük aktivitelerde büyük önem teşkil eden yürüme eylemini tekrar gerçekleştirebilmeleri için çeşitli protezler tasarlanmıştır. Bu protezler içinde aktif güç üretmeyen ve kontrol çevrimine sahip olmayan ancak bu sebeplerle de görece olarak daha ulaşılabilir pasif protezler sıkça kullanılmaktadır. Böylece bireyler pasif protezler yardımıyla kısalan uzuvlarını zemine yük aktarmak için kullanabilmekte ve yürüme eylemini gerçekleştirebilmektedir. Ancak maliyet avantajı ve erişilebilirliğin iyi olmasının yanında bu pasif nitelikteki protezler kaybedilen ayak eklemi ve çevre kaslardan faydalanan sağlıklı bir bacağın fonksiyonları tam olarak sağlayamamaktadır. Bu fonksiyonların başında aktif kuvvet oluşturma ve değişken darbe sönümleme gelmektedir. Aktif kuvvet oluşturma vücudun ileriye doğru itilmesiyle insan bedeninin ilerlemesinde görev almaktadır. Değişken darbe sönümleme ise farklı tempolarda yürüyüşlerde ve farklı zemin yükseklik değişimlerinde zemine yapılan anlık kuvvetin oluşturduğu darbeyi yeterli miktarda sönümlemeye yaramaktadır. Bu önemli fonksiyonların kaybı kişiyi bu eksiklikleri farklı şekilde tamamlamaya yöneltmektedir. Örneğin pasif protezin ilerlemeye aktif katkısı olmadığı gibi vücuttaki diğer kasların yardımıyla kaldırılarak ileriye taşınması gerekmektedir. Veya darbe sönümleme miktarı sabit rijitlikteki pasif protezin yapısal tasarım ve malzeme özelliklerine kalmakta ve anlık olarak değiştirilememektedir. Bu sebeple kişiler çevresel değişkenlere ve yürüyüş temposunu değiştirme durumuna karşı oluşan darbeleri yürüyüş biçimlerini değiştirerek sağlamak durumunda kalmaktadır. Bu tip yürüyüşlerde kalça iş yükünün artığı görülmektedir. Bütün bu durumlar sonucunda ampüte kişilerin yürüyüşleri ampütasyon öncesine göre değişmektedir. Çeşitli kaslar daha fazla çalışmak zorunda kalmaktayken, çeşitli eklemler normal yürüyüşten farklı açılanmalara meyil etmektedir. Sonuç olarak vücuttaki kas ve eklemler daha fazla yorulmakta, yıpranmakta ve konfor seviyesi düşmektedir. Bu sorunların önüne geçmek için sağlıklı ayak bileği fonksiyonlarının yeni tasarlanan protezlere eklenmesi amaçlanmaktadır. Bu tip protezlere aktif protez denilmektedir. Aktif protezler çeşitli kontrol stratejileriyle normal yürüyüşe daha yakın bir yürüyüş sağlamayı hedeflemektedir. Önceden toplanan verilerle oluşturulan kestirimci modellerle kontrol stratejileri yapıldığı gibi, doğrudan kullanan kişinin iradesi ile hareket eden kas-sinir ara yüzüne sahip kontrolcüler üzerinde de çalışmalar yapılmaktadır. Bu çalışmaların son ürün haline gelebilmesi için bir takım tasarım süreçlerinden geçmesi gerekmektedir. Klinik test ve prototip üretimler bu tasarım süreçleri içerisinde yer almaktadır. Klinik testler için çeşitli insan gruplarında deneyler yapılması gerekmektedir. Prototip üretimler ise tasarımdaki değişikliklerle birlikte tekrarlanmaktadır. Bu süreçler zaman ve maliyet olarak geri dönmekte ve zaman zaman çalışmaların önünde engel veya kısıtlayıcı faktör olarak karşımıza çıkmaktadır. Bu süreçlerin azaltılması yapılacak çalışmaların hedef kitlesini ve kapsamını arttırmak açısından önemlidir. Bilgisayar destekli tasarım ve simülasyon araçları uzun zamandır çeşitli sektörlerde tasarım süreçlerini hızlandırmak için kullanılmaktadır. Genellikle bu araçlar yapay sistemlerin üç boyutlu veya iki boyutlu tasarımlarını oluşturmakta ve çeşitli tasarım kısıtları ölçütünde simülasyonlarla değerlendirilerek geliştirilmelerini sağlamaktadır. Bu simülasyon ortamları statik ve dinamik değerlendirmeleri de içermektedir. Ancak bu sistemler büyük çoğunlukla mekanik sistemlerden oluşmaktadır. İnsan kas iskelet sistemi gibi biyolojik sistemlerin modellenerek simüle edilmesinde güçlük çekilmektedir. Bu güçlüklerle oluşturulan modeller ise kontrol aşamasında kullanılacak işlem kapasitesi gereksiniminin yüksek olması gibi sebeplerden dolayı uzun süre gerçek sistemden düşük sayıda serbestlik derecesi, aktüatör ve rijit parça ile oluşturulmak durumunda kalmıştır. Bu durum son zamanlarda erişilebilir işlem gücünün görece olarak artmasıyla değişmiş ve insandaki kas iskelet sistemine çok daha benzer yapıların bilgisayar ortamında modellenmesiyle sonuçlanmıştır. Kas iskelet sistemi insandaki serbestlik derecesine daha benzer modeller derin pekiştirmeli öğrenme kontrolcüleriyle idare edilebilmektedir. Bu kontrolcüler onlara öğrenmeleri için verilen yürüme animasyonlarını kas iskelet sistemi içerisinde bulunan kasları kullanarak taklit edebilmektedir. Henüz uzun vadeli hareket planlama gibi davranışsal hareketlerin simülasyon ortamında sınanması için erken olsa da kas iskelet sistemiyle etkileşim halinde bulunacak çeşitli yapay sistemlerin sınanması için büyük bir imkan oluşmuştur. Seoul Ulusal Üniversitesi ve Seoul Ulusal Üniversitesi Hastanesinde çalışan araştırmacılar ileri çalışmalarda kullanılmak üzere kas iskelet sistemi ve derin pekiştirmeli öğrenme kontrolcülerini kaynak kodlarıyla paylaşmışlardır. Tez çalışmasında paylaşılan kas iskelet sistemiyle birlikte derin pekiştirmeli öğrenme kontrolcüsüne sahip çeşitli karakterler kurgulanmıştır. Bu karakterlerin kullanılmasındaki amaç aktif protez kontrolcülerini yürümekte olan bir kas iskelet sistemiyle etkileşimli halde test edebilmektir. Karakterlerden ilki orijinal kas iskelet sistemine sahip sağlıklı bir kişiyi temsil eden karakterken, diğer üç karakter transtibial ampüte durumdadır. Ampüte karakterlerin biri basit yapıda pasif bir protez kullanmaktayken diğer iki karakter kendi kontrolcülerine sahip iki farklı aktif protez kullanmaktadır. Aktif protezlerin kontrolcüleri bir kestirim modelinden faydalanmaktadır. Kestirim modeli daha önceden yürütülen karakterlerin yürümeleri esnasında toplanan verilerle oluşturulmuştur. Birinci aktif protezde sağlıklı bir sanal karakterin yürümesi ile oluşturulan kestirim modeli kullanılırken ikinci aktif protezde pasif protezli bir karakterin yürümesi ile oluşturulan kestirim modeli kullanılmıştır. Dört farklı karakter yürütülerek yürüme performansları değerlendirilmiştir. Değerlendirme kriteri olarak derin pekiştirmeli öğrenmede de kullanılan ödül fonksiyonu kullanılmıştır. Dört karakter için de ortak uzuvlar değerlendirmeye alınmıştır. Böylece daha az uzuv sayısına sahip karakterlerde ödül fonksiyonunda kullanılan hatanın düşük olmaması ve hesaplamadan kaynaklı bir avantaj verilmemesi sağlanmıştır. Yürümede elde edilen ödül değerleri incelendiğinde sağlıklı kas iskelet yapısına sahip karakterin en yüksek performansı sergilediği görülmüştür. Pasif protezli karakter ise en düşük performans değerinde kalmıştır. Aktif protezli karakterlerin içinde pasif protezli yürüyüşü kestirim modelinde kullanan karakterin daha iyi performans sağladığı görülmüştür. Sanal karakterlerin tasarım süreçlerinde kullanılması için örnek teşkil edebilecek bir çalışma elde edilmiştir. Aynı zamanda karakterlerin yürüme boyunca kullandıkları kas aktivasyonları ileri çalışmalarda kullanılmak üzere kaydedilmiştir.
Özet (Çeviri)
Generally, due to traumatic or vascular disorders, in some people, the lower leg is cut from below the knee and separated from the body. This procedure is called transtibial amputation. These people have difficulty in activities that require active use of leg muscles such as walking, running, climbing and getting support from the ground, and are generally unable to perform them, due to the loss of the integrity of one of their legs. Various prostheses have been designed so that transtibial amputees can perform walking, which is of great importance in daily activities. Among these prostheses, passive prostheses that do not produce active power and do not have a control loop, but are relatively more accessible for these reasons, are frequently used. Thus, individuals can use their shortened limbs to transfer loads to the floor with the help of passive prostheses and perform the walking action. However, in addition to the cost advantage and good accessibility, these passive prostheses cannot fully provide the functions of a healthy leg that benefits from the lost ankle joint and surrounding muscles. Among these functions, active force generation and variable shock damping are the most prominent ones. Active force generation is involved in the propulsion of the human body by pushing the body forward. Variable impact damping, on the other hand, serves to absorb the impact created by the instantaneous force on the ground at different paces and at different ground height changes. The loss of these important functions leads the person to complete these deficiencies in different ways. For example, passive prosthesis does not contribute actively to progress, and it must be lifted and carried forward with the help of other muscles in the body. Or, the amount of impact damping depends on the structural design and material properties of the passive prosthesis with constant rigidity and cannot be changed instantly. For this reason, people have to provide the impacts that occur against environmental variables and changing the walking tempo by changing their walking styles. It is seen that the hip workload increases in this type of walking. As a result of all these effects, the gait of the amputated people changes compared to before the amputation. Various muscles have to work harder, while various joints tend to angle differently from normal walking. As a result, the muscles and joints in the body work more and the comfort level decreases. In order to prevent these problems, it is aimed to add healthy ankle functions to newly designed prostheses. This type of prosthesis is called active prosthesis. Active prostheses aim to provide a gait closer to normal gait with various control strategies. Control strategies are made with predictive models created with previously collected data, and studies are also carried out on controllers with myoneural interfaces that act directly with the will of the person using it. In order for the designs that emerged through research to become the final product, they need to go through a number of design processes. Clinical testing and prototype productions are included in these design processes. Experiments in various human groups are required for clinical testing. Prototype productions are repeated with changes in design. These processes come back in time and cost, and from time to time they appear as an obstacle or limiting factor in the work. Reducing these processes is important in terms of increasing the target audience and scope of the studies to be carried out. Computer-aided design and simulation tools have long been used in various industries to accelerate design processes. Generally, these tools create three-dimensional or two-dimensional designs of artificial systems and enable them to be developed by evaluating them with simulations in terms of various design constraints. These simulation environments also include static and dynamic evaluations. However, these systems mostly consist of mechanical systems. It is difficult to model and simulate biological systems such as the human musculoskeletal system. Models created with these difficulties had to be created with a lower number of degrees of freedom, actuators and rigid parts than the real system for a long time, due to the high need for processing capacity to be used in the control phase. This situation has recently changed with the relative increase in accessible processing power, resulting in computer modelling of structures much more similar to the human musculoskeletal system. Models of the musculoskeletal system more similar to the degrees of freedom in humans can be manipulated with deep reinforcement learning controllers. These controllers can imitate the walking animations given to them to learn by using the muscles in the musculoskeletal system. Although it is still early to test behavioural movements such as long-term movement planning in a simulation environment, there is a great opportunity to test various artificial systems that will interact with the musculoskeletal system. Researchers working at Seoul National University and Seoul National University Hospital have shared the source code of musculoskeletal system and deep reinforcement learning controllers for use in further studies. In the thesis study, various characters with a deep reinforcement learning controller with the shared musculoskeletal system were created. The purpose of using these characters is to test active prosthetic controllers in interaction with a walking musculoskeletal system. The first of the characters represents a healthy person with the original musculoskeletal system, while the other three characters are transtibial amputees. One of the amputee characters uses a simple passive prosthesis, while the other two characters use two different active prostheses with their own controllers. Controllers of active prostheses make use of a prediction model. The prediction model was created with the data collected during the walking of the previously trained characters. In the first active prosthesis, the prediction model created by walking a healthy virtual character, while the prediction model created by walking a character with a passive prosthesis was used in the second active prosthesis. Walking performances were evaluated by running four different character simulations. The reward function, which is also used in deep reinforcement learning, was used as an evaluation criterion. Common limbs were evaluated for all four characters. Thus, it is ensured that the error used in the reward function is not low for characters with less limb number and no advantage is given due to calculation. When the reward values obtained in walking were examined, it was seen that the character with a healthy musculoskeletal structure exhibited the highest performance. Passive prosthetic character remained at the lowest performance value. Among the characters with active prosthetics, it was observed that the character using the passive prosthetic gait data in the prediction model provided better performance. An exemplary study was obtained for the use of virtual characters in design processes. At the same time, the muscle activations used by the characters during walking were recorded for further studies.
Benzer Tezler
- Diz ortezi giymiş insan kas iskelet örneği üzerinde derin pekiştirmeli öğrenmeyle yürüme öğrenmesi
Learning to walk on a human musculoskeletal model wearing a knee orthosis via deep reinforcement learning
ÖMER KAYAN
Yüksek Lisans
Türkçe
2023
Mekatronik Mühendisliğiİstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ HÜLYA YALÇIN
- Öğrenen organizasyonlar
Learning organizations
UMUT TAŞTAN
Yüksek Lisans
Türkçe
1999
Endüstri ve Endüstri Mühendisliğiİstanbul Teknik ÜniversitesiEndüstri Mühendisliği Ana Bilim Dalı
DOÇ. DR. COŞKUN ÖZKAN
- Multi-resolution model plus correction paradigm for task and skill refinement on autonomous robots
Özerk robotlar üzerinde görev ve beceri iyileştirme için çoklu-çözünürlüklü model artı düzeltme paradigması
ÇETİN MERİÇLİ
Doktora
İngilizce
2011
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. H. LEVENT AKIN
PROF. DR. MANUELA VELOSO
- Scalable mechanical design for quadruped robots
Dört ayaklı robotlar için ölçeklendirilebilir mekanik tasarım
FARAZ RAHVAR
Yüksek Lisans
Farsça
2024
Mekatronik Mühendisliğiİstanbul Teknik ÜniversitesiMekatronik Ana Bilim Dalı
DR. ÖĞR. ÜYESİ ABDURRAHMAN YILMAZ
- Geliştirilen öğrenme stilleri ölçeğinin sonuçlarının değerlendirilmesi
The evaluation of the developed learning styles scale?s results
HATİCE EBRU ÖZKARDEŞ
Yüksek Lisans
Türkçe
2008
Eğitim ve ÖğretimMarmara Üniversitesiİlköğretim Bölümü
YRD. DOÇ. DR. AHMET ŞÜKRÜ ÖZDEMİR