Take 1: Legal Loophole
This article, by Rav Ofer Fried, presents it as a legal loophole that the judges can use to get around the problem of the testimony being invalidated by a blood relation. The assumption is that the division of the witness' testimony into different pieces is subjective and the judges can do this at their own discretion:
מ"מ, לכל הראשונים הללו, ה'פלגינן' הוא פעולה שעושה בית הדין כדי לפטור את הבעיה של 'עדות שבטלה מקצתה בטלה כולה'.
This answer is a bit unsatisfying, though. In general we would prefer to understand the concept as some general fundamental rule, rather than a subjective technicality to be applied at the Judge's whim.
In Pursuit of a More Fundamental Answer
I asked Rav M about this and he gave me a couple of more fundamental answers in brief. After learning up the source for עדות שבטלה מקצתה בטלה קולה, this is how I understand his answers. Let's start out by looking at the relevant gemara(בבא קמא עג א)
תנן גנב על פי שנים וטבח ומכר על פיהם ונמצאו זוממין משלמין את הכל מאי לאו
שהעידו על הגניבה וחזרו והעידו על הטביחה והוזמו על הגניבה וחזרו והוזמו
על הטביחה ואי סלקא דעתך למפרע הוא נפסל הני כיון דאיתזמו להו אגניבה
איגלאי מילתא למפרע דכי אסהדו אטביחה פסולין הוו אמאי משלמין אטביחה אמרי
הכא במאי עסקינן כגון שהוזמו על הטביחה תחילה אמרי סוף סוף כי הדרי מיתזמי
אגניבה איגלאי מילתא דכי אסהדו אטביחה פסולין הוו אמאי משלמי אטביחה והלכתא
שהעידו בבת אחת והוזמו
לימא כתנאי היו שנים מעידין אותו שגנב והן מעידין
אותו שטבח והוזמו על הגניבה עדות שבטלה מקצתה בטלה כולה הוזמו על הטביחה
הוא משלם תשלומי כפל והן משלמין תשלומי שלשה א"ר יוסי בד"א בשתי עדיות אבל
בעדות אחת עדות שבטלה מקצתה בטלה כולה מאי בשתי עדיות ומאי בעדות אחת
אילימא בשתי עדיות בשתי עדיות ממש בשתי כתות בעדות אחת בכת אחת בזה אחר זה
וא"ר יוסי בעדות אחת בכת אחת בזה אחר זה כי מסהדי אגניבה והדר מסהדי אטביחה
כי מתזמי אטביחה עדות שבטלה מקצתה בטלה כולה ואיתזמו להו אגניבה מהיכא
תיתי הך אלא לאו בשתי עדיות בעדות אחת כעין שתי עדיות ומאי נינהו כת אחת
בזה אחר זה אבל בעדות אחת בבת אחת לא וסברוה דכולי עלמא תוך כדי דיבור
כדיבור דמי...
The gemara brings a number of sources about עדות שבטלה מקצתה בטלה קולה and contemplates the interpretation of the various opinions. In any case, it seems that the principle would apply according to all the opinions in a case like ours in סנהדרין ט ב where the two testimonies come as part of the same sentence. So how do we reconcile this source with our own?
Take 2: Limiting the Principle to Plotting Witnesses
While our sugya discusses a witness disqualified as a blood relative(according to Rashi), the sugya in Bava Kama is dealing with a case where the witnesses were found to be עדים זוממים. Perhaps עדות שבטלה מקצתה בטלה קולה only applies to the latter group, where the witnesses have been shown to be dishonest people, but in the case of disqualification of a blood relative we say מפלגינן בדיבורא and allow the second testimony to stand.
Take 3: Two Testimonies for Two Defendants
In the case in Bava Kava, the two testimonies both relate to the same theft by the same thief, the question being as to the severity of the theft. In Sanhedrin, on the other hand, the two testimonies are about two different people, engaged in the same act: the accused and the witness himself. Maybe in the latter case, where two different people are concerned, Rava views the testimony as two separate testimonies, while in the former he views it as one.
A Wider Range
So while we concluded last time that both understandings of אין אדם משים עצמו רשע are pretty similar, we have a wider range of views of the principle of עדות שבטלה מקצתה בטלה קולה. On one hand we have the Raavad's view of Rav, that it's a כלל גדול, a general principal in the disqualification of testimony. On the other side of the spectrum, it may be limited to עדים זוממים or only applicable when the two testimonies are about different aspects of the same act by the same defendant.