Есть такого плана колёса, там они полностью закрыты стеклом и вращение передаётся через зубчатую передачу от дополнительных колёсиков, но у них другие проблемы есть.
Да, когда-нибудь я такую головоломку обязательно сделаю. Но пока мои подходы к проектированию шестерёнок были неудачными.
Я долго морочился с шестеренкой, и решил использовать зацепление Новикова. В результате, не надо использовать специальные программы и шестерня получается проще, и прочнее.
Может это поможет решить твои проблемы?
Форма шестерёнок не принципиальна. Основная проблема, как в принципе разместить равномерно зубчики на детальках.
большинство треугольников получились нормально, но например пятиугольник не получается 
PS
Головоломка вроде бы интересная, но только на бумаге (точнее в компьютере). Как сделать физически, что-бы всё вращалось и ничего не выпадало, я пока придумать не могу.
Как раз, использование круглого зуба, для тебя предпочтительнее.
Я думаю надо сделать трехслойную систему. Зубья делать на среднем элементе по чаще (диаметр среднего элемента, возможно, надо занизить), но не глубоко (наверное меньше чем у тебя?).
Но если не будет получаться, можно сделать фрикционную систему, так же на среднем элементе сделать насечку глубиной не более 1 мм и поставить резиновый ролик вместо шестеренки.