проблема не в неверном вызове метода (а он действительно не верно вызывается), а в том, что в последних версиях VLC этих методов нет. Видел примеры скриптов, где список воспроизведения представлен отдельным объектом playlist и вот это:
там записывали так:

такую конструкцию элемент UseActiveX не поддерживает. Поэтому реализовывать только в коде (отдельным элементом или VBJSctipt)